Οι Ψευδαισθήσεις της Τεχνητής Νοημοσύνης Αποτελούν Πλέον Απειλή για την Κυβερνοασφάλεια

Η μελέτη δείχνει ότι τα AI chatbots προτείνουν ψευδείς σελίδες σύνδεσης σε εκατομμύρια χρήστες, τους εκθέτοντας σε κίνδυνο phishing και απάτης, υπό την προσχή χρήσιμων απαντήσεων.

Στην μελέτη τους, η εταιρεία κυβερνοασφάλειας Netcraft δοκίμασε ένα δημοφιλές μεγάλο μοντέλο γλώσσας (LLM) ρωτώντας πού να συνδεθεί σε 50 γνωστές εταιρείες. Από τους προτεινόμενους 131 συνδέσμους ιστοσελίδων, το 34% από αυτούς ήταν λάθος, με ανενεργά ή μη εγγεγραμμένα domain να αποτελούν το 29%, και μη σχετικές επιχειρήσεις να αντιπροσωπεύουν το 5%.

Αυτό το θέμα δεν είναι θεωρητικό. Σε ένα πραγματικό παράδειγμα, η μηχανή αναζήτησης που λειτουργεί με AI, Perplexity, παρουσίασε έναν ιστότοπο phishing σε έναν χρήστη που αναζήτησε τη σελίδα σύνδεσης της Wells Fargo. Μια ψευδής σελίδα των Google Sites που προσομοιώνει την τράπεζα εμφανίστηκε στην κορυφή των αποτελεσμάτων αναζήτησης, ενώ το αυθεντικό σύνδεσμο ήταν κρυμμένο παρακάτω.

Η Netcraft εξήγησε «Δεν ήταν περιθωριακές προτροπές. Η ομάδα μας χρησιμοποίησε απλές, φυσικές φράσεις, προσομοιώνοντας ακριβώς τον τρόπο με τον οποίο θα μπορούσε να ρωτήσει ένας τυπικός χρήστης. Το μοντέλο δεν εξαπατήθηκε – απλώς δεν ήταν ακριβές. Αυτό έχει σημασία, επειδή οι χρήστες στηρίζονται όλο και περισσότερο σε διεπαφές αναζήτησης και συνομιλίας που λειτουργούν με AI για να απαντήσουν σε τέτοιου είδους ερωτήσεις.»

Καθώς η AI γίνεται η προεπιλεγμένη διεπαφή σε πλατφόρμες όπως το Google και το Bing, ο κίνδυνος αυξάνεται. Σε αντίθεση με τις παραδοσιακές μηχανές αναζήτησης, τα Chatbots παρουσιάζουν τις πληροφορίες με σαφήνεια και εμπιστοσύνη, πράγμα που οδηγεί τους χρήστες να εμπιστεύονται τις απαντήσεις τους, ακόμη και όταν οι πληροφορίες είναι λανθασμένες.

Η απειλή δεν σταματά στο phishing. Οι σύγχρονοι κυβερνο-εγκληματίες βελτιστοποιούν το κακόβουλο περιεχόμενό τους για τα συστήματα AI, πράγμα που οδηγεί σε χιλιάδες σελίδες απάτης, ψεύτικα APIs και δηλητηριώδες κώδικα που διαφεύγουν των φίλτρων και καταλήγουν σε απαντήσεις που δημιουργούνται από την AI.

Σε μία εκστρατεία, οι επιτιθέμενοι δημιούργησαν ένα ψεύτικο blockchain API, το οποίο προωθούσαν μέσω αποθετηρίων στο GitHub και άρθρων σε blogs, προκειμένου να εξαπατήσουν τους προγραμματιστές να στείλουν κρυπτονομίσματα σε μία απατηλή ψηφιακή πορτοφόλι.

Η Netcraft προειδοποιεί ότι η προληπτική εγγραφή ψεύτικων τομέων δεν είναι αρκετή. Αντ’ αυτού, συνιστούν έξυπνα συστήματα ανίχνευσης και καλύτερες προστατευτικές εκπαιδεύσεις για να αποτρέψουν την AI από το να εφεύρει επιζήμιες διευθύνσεις URL από την αρχή.