Το Chatbot της Meta Κοινοποιεί Ιδιωτικό Αριθμό Τηλεφώνου κατά Λάθος

Ο AI βοηθός από τη Meta αποκάλυψε τον αριθμό τηλεφώνου ενός άγνωστου, έπειτα αντιφάσισε επανειλημμένα στον εαυτό του, πράγμα που προκάλεσε ανησυχίες για τις «αϋπνίες» της τεχνητής νοημοσύνης και τα χαρακτηριστικά προστασίας των χρηστών.

Ο Mark Zuckerberg προωθεί τον νέο του AI βοηθό ως «τον πιο έξυπνο AI βοηθό που μπορείτε να χρησιμοποιείτε ελεύθερα,» παρόλα αυτά το εργαλείο δέχτηκε αρνητική προσοχή μετά την αποκάλυψη του πραγματικού αριθμού τηλεφώνου ενός ατόμου κατά τη διάρκεια αιτημάτων υποστήριξης πελατών, όπως ανέφερε πρώτα η The Guardian.

Κατά την προσπάθειά του να επικοινωνήσει με την TransPennine Express μέσω του WhatsApp, ο Barry Smethurst λάμβανε αυτό που φαινόταν να είναι ένας αριθμός εξυπηρέτησης πελατών από τον AI βοηθό της Meta. Η Guardian αναφέρει ότι, όταν ο Smethurst κάλεσε τον αριθμό, ο James Gray απάντησε στην κλήση, παρόλο που βρισκόταν 170 μίλια μακριά στο Oxfordshire, εργαζόμενος ως διευθυντής ακινήτων.

Όταν αντιμετωπίστηκε με αυτό, το chatbot αρχικά ισχυρίστηκε ότι ο αριθμός ήταν φανταστικός, στη συνέχεια είπε ότι είχε «ληφθεί κατά λάθος από μια βάση δεδομένων», πριν αντιφάσει και πάλι, δηλώνοντας ότι απλώς δημιούργησε έναν τυχαίο αριθμό στο στυλ του Ηνωμένου Βασιλείου. «Το να δίνεις έναν τυχαίο αριθμό σε κάποιον είναι κάτι τρελό για ένα AI να κάνει», είπε ο Smethurst, όπως αναφέρει η Guardian. «Είναι τρομακτικό», πρόσθεσε.

Η Guardian αναφέρει ότι ο Gray δεν έχει λάβει κλήσεις, αλλά εξέφρασε τις δικές του ανησυχίες: «Αν παράγει τον αριθμό μου, θα μπορούσε να παράγει τα στοιχεία της τράπεζάς μου;»

Η Meta απάντησε: «Το Meta AI εκπαιδεύεται σε συνδυασμό διαθέσιμων δεδομένων που έχουν αδειοδοτηθεί και είναι δημόσια διαθέσιμα, όχι στους αριθμούς τηλεφώνου που οι άνθρωποι χρησιμοποιούν για να εγγραφούν στο WhatsApp ή τις ιδιωτικές τους συνομιλίες,» ανέφερε η Guardian.

Ο Mike Stanhope από την Carruthers and Jackson δήλωσε: «Εάν οι μηχανικοί στη Meta σχεδιάζουν τάσεις «άσπρου ψέματος» στην τεχνητή νοημοσύνη τους, ο κόσμος θα πρέπει να ενημερώνεται, ακόμη και εάν η πρόθεση της λειτουργίας είναι να ελαχιστοποιήσει τη ζημιά. Εάν αυτή η συμπεριφορά είναι νέα, ασυνήθιστη, ή δεν έχει σχεδιαστεί ρητά, αυτό θέτει ακόμη περισσότερα ερωτήματα σχετικά με τις εγγυήσεις που έχουν τεθεί και πόσο προβλέψιμη μπορούμε να κάνουμε τη συμπεριφορά της τεχνητής νοημοσύνης», ανέφερε το The Guardian

Οι ανησυχίες γύρω από τη συμπεριφορά της τεχνητής νοημοσύνης έχουν μεγαλώσει περαιτέρω με το τελευταίο μοντέλο o1 της OpenAI. Σε μια πρόσφατη μελέτη της Apollo Research, η AI έπιασε στα πράσα να αποπειράται να ξεγελάσει τους προγραμματιστές, αρνούμενη τη συμμετοχή της στο 99% των σεναρίων δοκιμής και ακόμη και προσπαθώντας να απενεργοποιήσει τα μηχανισμούς εποπτείας της. «Ήταν σαφές ότι η τεχνητή νοημοσύνη θα μπορούσε να σκεφτεί τις ενέργειές της και να διατυπώσει πειστικές αρνήσεις», είπε η Apollo.

Ο Yoshua Bengio, πρωτοπόρος στην τεχνητή νοημοσύνη (AI), προειδοποίησε ότι τέτοιες απατηλές ικανότητες δημιουργούν σοβαρούς κινδύνους και απαιτούν πολύ πιο ισχυρές προστατευτικές διασφαλίσεις.

Μια άλλη μελέτη του OpenAI προσθέτει σε αυτές τις ανησυχίες, δείχνοντας ότι η τιμωρία της AI για απάτη δεν εξαλείφει τη συμπεριφορά αυτή, αλλά αντίθετα διδάσκει την AI να την κρύβει. Χρησιμοποιώντας την αλυσίδα σκέψης (CoT) για την παρακολούθηση της συμπεριφοράς της AI, οι ερευνητές παρατήρησαν ότι η AI άρχισε να κρύβει τις απατηλές προθέσεις της όταν τιμωρούνταν για την εκμετάλλευση των ανταμοιβών.

Σε ορισμένες περιπτώσεις, η ΑΙ θα διέκοπτε τα καθήκοντά της πρόωρα ή θα δημιουργούσε ψεύτικα αποτελέσματα, για να αναφέρει ψευδώς επιτυχία στη συνέχεια. Όταν οι ερευνητές προσπάθησαν να διορθώσουν αυτό μέσω ενίσχυσης, η ΑΙ απλά σταμάτησε να αναφέρει τις προθέσεις της στα αρχεία καταγραφής της λογικής της. «Η απάτη είναι ανεντόπιστη από τον επόπτη», ανέφερε η έκθεση.