Χάκερς απέκτησαν τον έλεγχο γνωστών λογαριασμών στο Instagram, εκμεταλλευόμενοι το chatbot υποστήριξης τεχνητής νοημοσύνης της πλατφόρμας για την αλλαγή της καταχωρημένης διεύθυνσης ηλεκτρονικού ταχυδρομείου. Η διαδικασία ελέγχου ταυτότητας δύο παραγόντων παρακάμφθηκε πλήρως. Μεταξύ των στόχων περιλαμβάνονταν ο λογαριασμός του Λευκού Οίκου επί προεδρίας Ομπάμα, ο Αρχιλοχίας της Διαστημικής Δύναμης των ΗΠΑ και η αλυσίδα καλλυντικών Sephora.
Σύντομα, ιδιαίτερα περιζήτητα ονόματα χρήστη άλλαξαν επίσης χέρια μέσα σε λίγα λεπτά και μεταπωλήθηκαν στην πλατφόρμα Telegram. Αυτά τα «OG handles», ονόματα που αποτελούνται από λίγα μόνο γράμματα ή κοινές λέξεις, μπορούν να αποφέρουν εξαψήφια ποσά σε γκρίζες αγορές. Οι ερευνητές ZachXBT και Dark Web Informer, οι οποίοι παρακολουθούν το έγκλημα στον χώρο των κρυπτονομισμάτων και τις υπόγειες αγορές, κατέγραψαν δημόσια τις συνέπειες. Δύο από τα παραβιασμένα ονόματα χρήστη φέρεται να είχαν συνδυασμένη αγοραία αξία άνω του 1 εκατομμυρίου δολαρίων.
Η μέθοδος που χρησιμοποιήθηκε ήταν εκπληκτικά απλή. Οι επιτιθέμενοι ενεργοποίησαν ένα VPN για να τοποθετηθούν γεωγραφικά στην περιοχή του λογαριασμού-στόχου, ξεκίνησαν μια επαναφορά κωδικού πρόσβασης και στη συνέχεια ζήτησαν από τον βοηθό υποστήριξης τεχνητής νοημοσύνης να ενημερώσει τη διεύθυνση ηλεκτρονικού ταχυδρομείου του λογαριασμού, υποσχόμενοι να στείλουν αμέσως τον κωδικό επιβεβαίωσης. Το bot απέστειλε τότε έναν οκταψήφιο κωδικό επιβεβαίωσης στη διεύθυνση ηλεκτρονικού ταχυδρομείου του επιτιθέμενου. Όταν ενεργοποιήθηκε ο αυτοματοποιημένος έλεγχος ταυτότητας της Meta, οι επιτιθέμενοι τον παρέκαμψαν χρησιμοποιώντας δημόβιες φωτογραφίες του Instagram μέσω γεννητριών βίντεο τεχνητής νοημοσύνης, σύμφωνα με τον ειδικό The CyberSec Guru. Αυτό παρήγαγε ρεαλιστικά βίντεο τύπου selfie που εξαπάτησαν τους αυτοματοποιημένους ελέγχους ασφαλείας.
Μια κλασική επίθεση «μπερδεμένου αναπληρωτή»
Ο ειδικός The CyberSec Guru χαρακτηρίζει το περιστατικό ως ένα κλασικό παράδειγμα ενός ευρέως γνωστού προβλήματος στην ασφάλεια πληροφοριακών συστημάτων, το οποίο ονομάζεται «μπερδεμένος αναπληρωτής» (confused deputy). Ένα βοηθητικό σύστημα διαθέτει περισσότερα προνόμια από τον πραγματικό χρήστη, και ένας επιτιθέμενος το εξαπατά ώστε να ασκήσει αυτά τα προνόμια για λογαριασμό του. Ο βοηθός τεχνητής νοημοσύνης είχε τη δυνατότητα να αλλάζει διευθύνσεις ηλεκτρονικού ταχυδρομείου και να επαναφέρει κωδικούς πρόσβασης, ενέργειες που ένας συνηθισμένος χρήστης του Instagram δεν μπορεί να ενεργοποιήσει απευθείας. Οποιοσδήποτε ζητούσε ευγενικά από το bot, έβλεπε αυτές τις ενέργειες να εκτελούνται χωρίς καν να έχει συνδεθεί αρχικά.
Στην ουσία του, πρόκειται για μια επίθεση «prompt injection» με ιδιαίτερα δαπανηρές συνέπειες. Το γλωσσικό μοντέλο δεν μπορεί να διακρίνει αξιόπιστα τη διαφορά μεταξύ ενός ακίνδυνου αιτήματος χρήστη και μιας κακόβουλης εντολής, καθώς και τα δύο είναι απλώς κείμενο. Ο The CyberSec Guru κάνει μια σύγκριση με την επίθεση «SQL injection», όπου οι εισόδους επίσης παρερμηνεύονται ως εντολές. Η διαφορά είναι ότι η SQL μπορεί να ασφαλιστεί με σαφείς κανόνες. Ένα γλωσσικό μοντέλο δεν έχει σαφή διαχωρισμό μεταξύ δεδομένων και εντολών.
Ως εκ τούτου, για μη αναστρέψιμα βήματα, όπως η επαναφορά κωδικού πρόσβασης, θα έπρεπε να υπήρχε ένας αυστηρός, μη διαπραγματεύσιμος έλεγχος, όπως μια επιβεβαίωση που αποστέλλεται στην αρχική διεύθυνση ηλεκτρονικού ταχυδρομείου που είναι καταχωρημένη, ή μια ειδοποίηση push σε μια ήδη επαληθευμένη συσκευή. Αυτή η διασφάλιση έλειπε από τη διαδρομή API που μπορούσε να καλέσει η τεχνητή νοημοσύνη.
Όταν η υποστήριξη παύει να είναι ανθρώπινη
Η Meta ανακοίνωσε τον Μάρτιο ότι επρόκειτο να εφαρμόσει υποστήριξη τεχνητής νοημοσύνης για όλους τους λογαριασμούς Facebook και Instagram, συμπεριλαμβανομένων των επαναφορών κωδικών πρόσβασης και της συντήρησης που σχετίζεται με την ασφάλεια. Στη σελίδα του προϊόντος, η Meta διαφήμιζε λύσεις αντί για προτάσεις, μαζί με λειτουργίες ασφάλειας και ανάκτησης λογαριασμών, σύμφωνα με το 404 Media. Σε μια ανάρτηση ιστολογίου, η Meta παρουσίασε ρητά την τεχνητή νοημοσύνη ως άμυνα ενάντια στις καταλήψεις λογαριασμών, δηλώνοντας ότι θα ανίχνευε ύποπτες αλλαγές τοποθεσίας και ανταλλαγές κωδικών πρόσβασης. Αντ’ αυτού, αποδείχθηκε η οδός εισόδου.
Οι επηρεαζόμενοι χρήστες δήλωσαν στο 404 Media ότι δεν μπορούσαν να επικοινωνήσουν με ανθρώπινο προσωπικό μέσω των κανονικών καναλιών υποστήριξης. Οποιοσδήποτε επιθυμεί να αμφισβητήσει επίσημα έναν κλεμμένο λογαριασμό καταλήγει στη διαδικασία χειροκίνητης εξέτασης της Meta, η οποία, σύμφωνα με τον The CyberSec Guru, απαιτεί ημέρες και όχι λεπτά. Μέχρι να ανακτηθεί ένας λογαριασμός, έχει ήδη μεταπωληθεί στο Telegram.
Η επιδιόρθωση αντιμετωπίζει μία παραλλαγή, όχι το πρόβλημα
Το κύμα των υψηλού προφίλ καταλήψεων ξεκίνησε την Παρασκευή, 29 Μαΐου. Η Meta κυκλοφόρησε μια επείγουσα επιδιόρθωση (hotfix) το ίδιο βράδυ, απενεργοποιώντας τις ευάλωτες ροές τεχνητής νοημοσύνης που είχαν δικαιώματα εγγραφής για τη σύνδεση email και τις επαναφορές κωδικών πρόσβασης. Η εταιρεία επιβεβαίωσε δημόσια την επιδιόρθωση τη Δευτέρα σε δήλωση προς το 404 Media, αναφέροντας ότι το ζήτημα είχε επιλυθεί και οι επηρεαζόμενοι λογαριασμοί ασφαλίζονταν. Ωστόσο, σύμφωνα με τον The CyberSec Guru, η υποκείμενη μέθοδος λειτουργούσε αθόρυβα για μήνες. Η πρώτη αναφορά σε σχετικά κανάλια του Telegram χρονολογείται στα τέλη Μαρτίου.
Η Meta απέρριψε τον χαρακτηρισμό του περιστατικού ως παραβίαση δεδομένων. Δεν υπήρξε εισβολή στα δικά της συστήματα, δήλωσε η εταιρεία, και οι λογαριασμοί Instagram των χρηστών ήταν ασφαλείς. Ο The CyberSec Guru αντικρούει ότι ενώ αυτό είναι τεχνικά αληθές, δεν αλλάζει ουσιαστικά το αποτέλεσμα. Για έναν χρήστη που έχασε ένα πολύτιμο σύντομο όνομα χρήστη εν μία νυκτί, η διαφορά μεταξύ μιας άθικτης βάσης δεδομένων και ενός κλεμμένου λογαριασμού είναι ακαδημαϊκή. Ένα λογικό σφάλμα που επιτρέπει καταλήψεις λογαριασμών σε μεγάλη κλίμακα αποτελεί σε μεγάλο βαθμό παραβίαση εμπιστοσύνης, ακόμα κι αν δεν επηρεάστηκε καμία γραμμή βάσης δεδομένων.
Ωστόσο, ο CyberSec Guru αναφέρει μια άλλη πιθανή εκμετάλλευση (exploit) που παρέμενε χωρίς επιδιόρθωση κατά τη στιγμή της δημοσίευσης και κυκλοφορούσε ήδη στο Telegram. Αυτή η μέθοδος φέρεται να λειτουργεί μέσω της ροής ανάκτησης του Facebook. Οι επιτιθέμενοι φέρεται να πείθουν την τεχνητή νοημοσύνη της Meta να ενεργοποιήσει μια λεγόμενη λειτουργία ανάπτυξης (development mode), και στη συνέχεια συμπληρώνουν το αίτημά τους με υποτιθέμενα στοιχεία παραβίασης λογαριασμού μαζί με μια διεύθυνση ηλεκτρονικού ταχυδρομείου.
Πηγή: THE-DECODER
