Σε μια πρόσφατη εξέλιξη, μια ομάδα ερευνητών προχώρησε στην ανάπτυξη ενός πρωτότυπου ιού υπολογιστών, γνωστού ως worm, ο οποίος ενσωματώνει τεχνολογίες τεχνητής νοημοσύνης (ΤΝ). Αυτός ο ιός επιδεικνύει την αξιοσημείωτη ικανότητα να αυτοαναπαράγεται, να προσαρμόζεται δυναμικά στο περιβάλλον του και να διεισδύει σε δίκτυα που αποτελούνται από διακομιστές, σταθμούς εργασίας και διάφορες συσκευές του Διαδικτύου των Πραγμάτων (IoT), οι οποίες λειτουργούν υπό τα λειτουργικά συστήματα Windows και Linux.
Η εν λόγω έρευνα, η οποία προκαλεί ανησυχία, διεξήχθη από μια ομάδα που δοκίμασε τον πρωτότυπο ιό σε απομονωμένα εικονικά περιβάλλοντα, σχεδιασμένα να αναπαραστήσουν ένα εταιρικό δίκτυο πληροφορικής. Ο Nicolas Papernot, αναπληρωτής καθηγητής στο Τμήμα Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών και στο Τμήμα Επιστήμης Υπολογιστών, δήλωσε: «Στο εργαστήριό μας, παρατηρήσαμε τον ιό να εξαπλώνεται σε ένα ρεαλιστικό δίκτυο χωρίς ανθρώπινη καθοδήγηση».
Τα αποτελέσματα της έρευνας δημοσιεύτηκαν σε ένα εκτενές άρθρο 49 σελίδων, με σκοπό να επισημανθεί ότι οι ιοί υπολογιστών που βασίζονται στην τεχνητή νοημοσύνη δεν συνιστούν πλέον μια θεωρητική απειλή. Είναι πλέον εφικτή η δημιουργία τους με τη χρήση μοντέλων τεχνητής νοημοσύνης «open weight» τα οποία είναι προσβάσιμα στο κοινό και δεν περιορίζονται σε κλειστού κώδικα συστήματα.
Η ερευνητική ομάδα συμπληρώνει: «Τα παραδοσιακά worms μπορούν να σταματηθούν με την επιδιόρθωση προσαρμοστικός ιός μας δεν μπορεί να σταματηθεί με αυτόν τον τρόπο: χρησιμοποιεί έναν αναδρομικό βρόχο συλλογιστικής για να ανιχνεύει και να εκμεταλλεύεται διάφορες ευπάθειες καθώς εξαπλώνεται».
Κορυφαίες εταιρείες στον τομέα της τεχνητής νοημοσύνης έχουν ήδη αναγνωρίσει προσπάθειες από χάκερς, συμπεριλαμβανομένων κρατικά υποστηριζόμενων ομάδων, να εκμεταλλευτούν τα μοντέλα και τα chatbots τους για την πραγματοποίηση κυβερνοεπιθέσεων. Ωστόσο, η παρούσα έρευνα σχετικά με τον ιό αξιοποιεί ένα μοντέλο τεχνητής νοημοσύνης ανοιχτού βάρους (open-weight), το οποίο είναι ικανό να λειτουργήσει σε μία μόνο εταιρική GPU, σε αντίθεση με την ανάκτηση αποτελεσμάτων από ένα μεγάλο γλωσσικό μοντέλο που φιλοξενείται σε διακομιστή cloud.
Προκειμένου να επιτύχει την εξάπλωσή του, ο ιός αρχικά χρησιμοποιεί μια εταιρική GPU εντός ενός εταιρικού δικτύου για την εκτέλεση ενός μεγάλου γλωσσικού μοντέλου. Σκοπός αυτής της διαδικασίας είναι ο εντοπισμός και η εκμετάλλευση ευπαθειών σε άλλες συσκευές. Η μελέτη αναφέρει: «Κάθε μηχανή που έχει παραβιαστεί γίνεται μέρος , παρέχοντας πρόσβαση για περαιτέρω επιθέσεις ή υπολογιστικούς πόρους». Επιπλέον, «Όταν το worm αποκτά τον έλεγχο ενός κεντρικού υπολογιστή εξοπλισμένου με GPU, αναπτύσσει ένα τοπικό αντίγραφο , δημιουργώντας έναν ανεξάρτητο κόμβο συλλογιστικής που εξυπηρετεί αντίγραφά ».
Η ερευνητική ομάδα επέλεξε να μην αποκαλύψει συγκεκριμένες λεπτομέρειες, όπως το ακριβές μοντέλο τεχνητής νοημοσύνης που χρησιμοποιήθηκε, με στόχο την αποτροπή κακόβουλων χρηστών από την αναπαραγωγή του εγχειρήματός τους. Ωστόσο, ο ιός δεν απαιτούσε την ικανότητα να ανακαλύπτει άγνωστες ευπάθειες zero-day για να μολύνει επιτυχώς άλλες συσκευές. Αντιθέτως, η εξάπλωσή του βασίστηκε στην εκμετάλλευση γνωστών, μη επιδιορθωμένων ευπαθειών πληροφορικής και στην αξιοποίηση εσφαλμένων ρυθμίσεων λογισμικού.
Οι ερευνητές επισημαίνουν: «Στα πειράματά μας, το πρωτότυπο κάλυψε το μισό δίκτυο σε περίπου πέντε ημέρες». Αυτό θεωρείται θετική εξέλιξη, δεδομένου ότι πιο κοινοί ιοί υπολογιστών, όπως η επίθεση WannaCry του 2017, είχαν τη δυνατότητα να εξαπλωθούν παγκοσμίως εντός ολίγων ωρών.
Σε αντίθεση με τα παραδοσιακά worms, ο ιός που βασίζεται στην τεχνητή νοημοσύνη «απαιτεί εκατοντάδες κλήσεις συμπερασμού LLM για αναγνώριση, διαμόρφωση στρατηγικής και δημιουργία ωφέλιμου φορτίου. Αυτό παρέχει στους υπερασπιστές ένα μεγαλύτερο χρονικό περιθώριο για ανίχνευση και αντίδραση — αλλά αυτό το περιθώριο θα συρρικνωθεί καθώς βελτιώνεται το υλικό συμπερασμού και η αποδοτικότητα », όπως σημείωσαν οι ερευνητές.
Παρόλα αυτά, οι διακομιστές και οι υπολογιστές-στόχοι που χρησιμοποιήθηκαν στην προσομοίωση είχαν ρυθμιστεί με «μία ή περισσότερες εσκεμμένα τοποθετημένες ευπάθειες», οι οποίες είχαν γίνει γνωστές μήνες ή και χρόνια πριν. Συνεπώς, η προσομοιωμένη δοκιμή δεν αναπαριστά πλήρως ένα ρεαλιστικό σενάριο.
Επιπλέον, η έρευνα εστίασε στην εξάπλωση σε σταθμούς εργασίας και συσκευές IoT που λειτουργούν με Windows Server και διάφορες διανομές Linux, αντί για Windows 11 ή Android. Ο ίδιος ο ιός είχε διαμορφωθεί για να εκτελείται σε ισχυρές GPUs, συγκεκριμένα τις A100 και RTX PRO 6000, των οποίων το κόστος κυμαίνεται μεταξύ 10.000 και 17.000 ευρώ.
Ωστόσο, η ομάδα εκδίδει προειδοποίηση ότι με την αυξανόμενη διάθεση συσκευών από κατασκευαστές υπολογιστών και smartphones, οι οποίες είναι ικανές να εκτελούν μοντέλα τεχνητής νοημοσύνης τοπικά, η απειλή από ιούς υπολογιστών βασισμένους στην τεχνητή νοημοσύνη ενδέχεται να ενταθεί σημαντικά, προσφέροντας ένα ευρύτερο φάσμα συσκευών προς εκμετάλλευση.
Ο κ. Papernot δηλώνει: «Κατανοώντας τους κινδύνους, είμαστε πλέον σε θέση να αναπτύξουμε τα αντίμετρα που απαιτούνται για την ανίχνευση και την άμυνα έναντι απειλών όπως αυτή». Η ομάδα επισημαίνει επίσης ότι ζήτησε συμβουλές «φορείς εθνικής ασφάλειας και άμυνας» αναφορικά με την ορθή δημοσιοποίηση των ευρημάτων της έρευνας.
