Στις 5 Ιουνίου, το ειδησεογραφικό μέσο 404 Media δημοσίευσε μια αναφορά, αποκαλύπτοντας ότι επιτιθέμενοι είχαν εκμεταλλευτεί τον αυτοματοποιημένο πράκτορα υποστήριξης πελατών της Meta, ο οποίος λειτουργεί με τεχνητή νοημοσύνη, με σκοπό την κλοπή λογαριασμών στην πλατφόρμα Instagram. Η μέθοδος που εφάρμοσαν ήταν εξαιρετικά απλή και άμεση: ζήτησαν από τον εν λόγω πράκτορα τεχνητής νοημοσύνης να συνδέσει τους στοχευμένους λογαριασμούς με διευθύνσεις ηλεκτρονικού ταχυδρομείου που βρίσκονταν υπό τον δικό τους έλεγχο. Ο πράκτορας, χωρίς περαιτέρω ελέγχους, συμμορφώθηκε με αυτό το αίτημα. Ως αποτέλεσμα αυτής της ενέργειας, ένας από τους επιτιθέμενους κατάφερε να εισβάλει στον ανενεργό λογαριασμό του Λευκού Οίκου από την περίοδο διακυβέρνησης Ομπάμα και να δημοσιεύσει περιεχόμενο με φιλοϊρανικό χαρακτήρα. Παράλληλα, άλλοι επιτιθέμενοι ανέλαβαν τον έλεγχο λογαριασμών που διέθεταν ιδιαίτερα πολύτιμα, μονολεκτικά ονόματα χρήστη, με την πιθανή πρόθεση να τα πουλήσουν στην αγορά.
Οι ανησυχίες σχετικά με την κυβερνοασφάλεια στον τομέα της τεχνητής νοημοσύνης δεν αποτελούν ένα νέο φαινόμενο. Ήδη από τον Απρίλιο, όταν η εταιρεία Anthropic ανακοίνωσε ότι το προηγμένο μοντέλο της, Mythos, ήταν υπερβολικά ικανό σε δραστηριότητες hacking για να κυκλοφορήσει στο ευρύ κοινό, σχολιαστές, ερευνητές και ομοσπονδιακοί αξιωματούχοι έχουν επικεντρωθεί στην ιδέα ότι υπερδύναμα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να προκαλέσουν εκτεταμένες καταστροφές στην υπολογιστική μας υποδομή. Ωστόσο, η συγκεκριμένη επίθεση στο Instagram δεν ανήκε ακριβώς σε αυτή την κατηγορία: στην περίπτωση αυτή, η τεχνητή νοημοσύνη αποτέλεσε τον στόχο και όχι τον επιτιθέμενο, ενώ η εφαρμοζόμενη μέθοδος ήταν σημαντικά απλούστερη από οτιδήποτε θα μπορούσε να αναπτύξει το Mythos. Παρόλα αυτά, καθώς οι εταιρείες αναθέτουν όλο και περισσότερες εργασίες σε συστήματα τεχνητής νοημοσύνης, αυτές οι συγκριτικά μη εξελιγμένες επιθέσεις θα μπορούσαν να προκαλέσουν τη δική τους, σημαντική αναστάτωση.
«Καθώς η τεχνητή νοημοσύνη χρησιμοποιείται όλο και πιο ευρέως —ειδικά όταν η τεχνητή νοημοσύνη χρησιμοποιείται όλο και πιο ευρέως για την αυτοματοποίηση των ροών εργασίας μας, όπως η ανάκτηση λογαριασμών— πιστεύω ότι οι επιτιθέμενοι θα έχουν όλο και περισσότερα κίνητρα να επιτεθούν στην ίδια την τεχνητή νοημοσύνη», δηλώνει ο Neil Gong, καθηγητής ηλεκτρολόγων μηχανικών και μηχανικών υπολογιστών στο Πανεπιστήμιο Duke.
Ο καθηγητής Gong και άλλοι διακεκριμένοι ακαδημαϊκοί εκδίδουν προειδοποιήσεις σχετικά με τις εγγενείς ευπάθειες ασφαλείας των πρακτόρων τεχνητής νοημοσύνης εδώ και αρκετό καιρό. Δημοσιεύουν τακτικά επιστημονικές εργασίες και αναρτήσεις σε ιστολόγια, στις οποίες περιγράφουν λεπτομερώς διάφορες μεθόδους εκμετάλλευσης, όπως η έμμεση εισαγωγή εντολών (indirect prompt injection). Αυτή η τεχνική περιλαμβάνει την υποκλοπή πρακτόρων τεχνητής νοημοσύνης μέσω της χρήσης εντολών που είναι κρυμμένες σε ιστότοπους, μηνύματα ηλεκτρονικού ταχυδρομείου ή άλλες πηγές δεδομένων που φαινομενικά είναι αθώες. Σε σύγκριση με αυτές τις εξελιγμένες τεχνικές, η επίθεση που πραγματοποιήθηκε στη Meta ήταν πρακτικά αβίαστη και δεν απαιτούσε ιδιαίτερη πολυπλοκότητα. Η μόνη επιπλοκή που χρειάστηκε να ξεπεράσουν οι χάκερ ήταν η χρήση ενός Εικονικού Ιδιωτικού Δικτύου (VPN) που να ταιριάζει με την πραγματική γεωγραφική τοποθεσία του κατόχου του λογαριασμού. Στη συνέχεια, ζήτησαν απευθείας από τον πράκτορα υποστήριξης να προβεί σε αλλαγή της διεύθυνσης ηλεκτρονικού ταχυδρομείου του λογαριασμού, και ο πράκτορας συμμορφώθηκε άμεσα με το αίτημα.
Η Meta δεν έχει προβεί σε δημόσιο σχολιασμό σχετικά με το πώς αυτή η ευπάθεια διέφυγε της προσοχής των συστημάτων της. Ωστόσο, δεδομένης της εξαιρετικής απλότητας της εκμετάλλευσης, ο καθηγητής Gong δηλώνει ότι θα έπρεπε να είχε εντοπιστεί εύκολα, πολύ πριν από την ανάπτυξη και την ενεργοποίηση του πράκτορα. «Είναι πραγματικά εκπληκτικό», λέει. «Δεν καταλαβαίνω γιατί δεν βρήκαν αυτό το απλό πρόβλημα».
Η Jessica Ji, ανώτερη ερευνήτρια αναλύτρια στο Κέντρο Ασφάλειας και Αναδυόμενης Τεχνολογίας του Πανεπιστημίου Georgetown, συμφωνεί με αυτή την εκτίμηση. «Εγείρει ερωτήματα όπως: Υπήρχαν καν δικλείδες ασφαλείας;» λέει. «Σκέφτηκε κανείς να δοκιμάσει για ένα τέτοιο σενάριο;» Η ίδια σημειώνει ότι η συγκεκριμένη παράλειψη είναι ιδιαίτερα εντυπωσιακή, δεδομένου ότι προέρχεται από μια εταιρεία όπως η Meta, η οποία διαθέτει εκτεταμένη και αποδεδειγμένη τεχνογνωσία τόσο στον τομέα της τεχνητής νοημοσύνης όσο και στην κυβερνοασφάλεια. Η Meta δεν ανταποκρίθηκε σε αίτημα για σχολιασμό για τις ανάγκες αυτού του άρθρου, ωστόσο τη Δευτέρα ένας εκπρόσωπος της Meta δήλωσε στην πλατφόρμα X ότι η ευπάθεια είχε επιλυθεί επιτυχώς.
Όσο ντροπιαστική κι αν είναι αυτή η στιγμή ειδικά για τη Meta, αναδεικνύει επίσης ορισμένες βασικές ευπάθειες που είναι κοινές σε πολλά συστήματα λογισμικού. Οι πράκτορες τεχνητής νοημοσύνης μπορούν να ανταποκρίνονται με ευέλικτους —και συχνά απροσδόκητους— τρόπους σε νέες συνθήκες, γεγονός που εξηγεί γιατί μπορεί να είναι σε θέση να αντικαταστήσουν αποτελεσματικά τους ανθρώπινους πράκτορες υποστήριξης πελατών. Ωστόσο, οι πράκτορες τεχνητής νοημοσύνης μπορούν επίσης να εξαπατηθούν με τρόπους που οι άνθρωποι δεν θα εξαπατούνταν, και επειδή έχουν τη δυνατότητα να αναλάβουν πραγματικές ενέργειες στον φυσικό κόσμο, αυτά τα λάθη έχουν σοβαρές συνέπειες. «Ένας άνθρωπος θα έλεγε, ‘Εντάξει, γιατί θέλετε να αλλάξετε τη διεύθυνση ηλεκτρονικού ταχυδρομείου;’ και ίσως να απαντούσε με μια ερώτηση ασφαλείας», λέει ο Somesh Jha, καθηγητής επιστήμης υπολογιστών στο Πανεπιστήμιο του Wisconsin–Madison. «Αυτό που συμβαίνει με αυτούς τους πράκτορες είναι ότι είναι πολύ πρόθυμοι να ολοκληρώσουν την εργασία. Είναι σχεδόν σαν κάποιος μαθητής δημοτικού που θέλει απλώς να ευχαριστήσει τον δάσκαλο».
Υπάρχουν συγκεκριμένοι τρόποι για τον μετριασμό αυτών των κινδύνων. Οι εταιρείες μπορούν να χρησιμοποιήσουν παραδοσιακό λογισμικό για να δημιουργήσουν αποτελεσματικές δικλείδες ασφαλείας, οι οποίες διασφαλίζουν ότι οι πράκτορες τεχνητής νοημοσύνης ακολουθούν αυστηρούς και προκαθορισμένους κανόνες. Αυτοί οι κανόνες μπορεί να περιλαμβάνουν, για παράδειγμα, την υποχρεωτική απαίτηση απαντήσεων σε ερωτήσεις ασφαλείας πριν από την αποστολή ευαίσθητων πληροφοριών λογαριασμού σε μια νέα διεύθυνση ηλεκτρονικού ταχυδρομείου. Επιπλέον, όλοι οι εμπειρογνώμονες που συμβουλεύτηκαν για τις ανάγκες αυτού του άρθρου συμφωνούν ότι οι πράκτορες θα πρέπει να υποβάλλονται σε αυστηρή «κόκκινη ομαδοποίηση» (red-teaming). Πρόκειται για μια συστηματική διαδικασία κατά την οποία οι προγραμματιστές καταβάλλουν κάθε δυνατή προσπάθεια να επιτεθούν σε ένα σύστημα, με σκοπό να ανακαλύψουν όλες τις πιθανές ευπάθειές του πριν αυτό αναπτυχθεί και τεθεί σε λειτουργία.
Ωστόσο, υπάρχουν και αντίρροπες δυνάμεις που περιπλέκουν την κατάσταση. Οι εταιρείες επιθυμούν να αναπτύξουν ικανούς και αποτελεσματικούς πράκτορες τεχνητής νοημοσύνης, και όσο περισσότερη δύναμη διαθέτει ένας πράκτορας —και όσο λιγότερες δικλείδες ασφαλείας υπόκειται— τόσο περισσότερη εργασία μπορεί δυνητικά να αναλάβει, αυξάνοντας την αποδοτικότητα. «Η ασφάλεια και η χρησιμότητα έχουν πάντα μια ανταλλαγή», λέει ο Bo Li, καθηγητής επιστήμης υπολογιστών στο Πανεπιστήμιο του Illinois Urbana-Champaign. Επιπλέον, η επαρκής και ενδελεχής «κόκκινη ομαδοποίηση» μπορεί να αποδειχθεί ιδιαίτερα δαπανηρή. Οι αμυνόμενοι πρέπει να δαπανήσουν σημαντικά περισσότερους πόρους από τους επιτιθέμενους, διότι οι επιτιθέμενοι χρειάζεται μόνο να ανακαλύψουν μία και μοναδική εκμετάλλευση για να επιτύχουν τον στόχο τους, ενώ οι αμυνόμενοι προσπαθούν να ανακαλύψουν και να επιδιορθώσουν όσες περισσότερες ευπάθειες μπορούν. Όταν οι επιτιθέμενοι εργάζονται για την απόκτηση κάτι τόσο πολύτιμου όσο ένα μονολεκτικό όνομα χρήστη στο Instagram, είναι πρόθυμοι να επενδύσουν σημαντικούς πόρους στην εύρεση εκμεταλλεύσεων, γεγονός που αναγκάζει τους αμυνόμενους να ξοδέψουν ακόμη περισσότερα χρήματα για να προστατεύσουν αυτό το πολύτιμο «βραβείο».
Καθώς τα μοντέλα τεχνητής νοημοσύνης συνεχίζουν να βελτιώνονται και να εξελίσσονται, η ενίσχυση των αμυνών τους μπορεί στην πραγματικότητα να γίνει ευκολότερη. Αν και η πιθανολογική φύση των μεγάλων γλωσσικών μοντέλων (LLM) σημαίνει ότι οι πράκτορες LLM θα είναι πάντα ευάλωτοι σε ορισμένες μορφές επίθεσης, ένα πιο εξελιγμένο μοντέλο θα μπορούσε να είχε αναγνωρίσει μια προσπάθεια αλλαγής του email που σχετίζεται με τον λογαριασμό του Λευκού Οίκου επί Ομπάμα ως ύποπτη και να είχε σημάνει συναγερμό. Επιπλέον, τα ίδια τα συστήματα τεχνητής νοημοσύνης μπορούν να χρησιμοποιηθούν αποτελεσματικά για την «κόκκινη ομαδοποίηση» πρακτόρων, όπως ακριβώς οι συμμετέχοντες στο Project Glasswing της Anthropic χρησιμοποιούν το μοντέλο Mythos για να εντοπίσουν ευπάθειες στο λογισμικό τους, ενισχύοντας έτσι την ασφάλεια.
Ωστόσο, οι ειδικοί αναμένουν ότι το πρόβλημα της ασφάλειας των πρακτόρων τεχνητής νοημοσύνης θα γίνει μόνο πιο πιεστικό και κρίσιμο στο μέλλον. Καθώς οι πράκτορες αυτοί γίνονται πιο ικανοί και αυτόνομοι, οι εταιρείες που τους υιοθετούν ενδέχεται να επιθυμούν να τους δώσουν περισσότερη δύναμη και αρμοδιότητες, τόσο για να παρέχουν περισσότερες υπηρεσίες με λιγότερους ανθρώπινους πόρους όσο και για να αποφύγουν να μείνουν πίσω στον ταχέως κινούμενο και ανταγωνιστικό κόσμο της τεχνητής νοημοσύνης. Σε ένα τέτοιο περιβάλλον, ο χρόνος που απαιτείται για την προσεκτική και ενδελεχή ασφάλιση των επικίνδυνων συστημάτων πρακτόρων μπορεί να φανεί ως μια ασυγχώρητη και απαράδεκτη καθυστέρηση.
«Όλοι θέλουν να είναι οι πρώτοι που θα κάνουν κάτι και απλώς να προωθήσουν τα πράγματα χωρίς προσεκτική εξέταση και κόκκινη ομαδοποίηση», λέει ο καθηγητής Jha. «Πιστεύω ότι είναι ένα πολύ επικίνδυνο πράγμα».
