Η Google DeepMind χρηματοδοτεί έρευνα σχετικά με τους δυνητικούς κινδύνους που προκύπτουν από καταστάσεις όπου εκατομμύρια διαφορετικοί πράκτορες τεχνητής νοημοσύνης (AI) αλληλεπιδρούν μεταξύ τους στο διαδίκτυο.
Σύμφωνα με τον κ. Rohin Shah, ο οποίος κατέχει τη θέση του διευθυντή έρευνας ασφάλειας και ευθυγράμμισης της Γενικής Τεχνητής Νοημοσύνης (AGI) στην εταιρεία, η ευρεία διάθεση πρακτόρων ικανών να εκτελούν εργασίες χωρίς ανθρώπινη επίβλεψη και να ακολουθούν οδηγίες, δημιουργεί μια νέα κατηγορία κινδύνων.
Σε μια προσπάθεια αντιμετώπισης αυτής της πρόκλησης, η Google DeepMind – η οποία ανέδειξε τα εργαλεία βασισμένα σε πράκτορες ως κεντρικό στοιχείο του Google I/O τον προηγούμενο μήνα – συνεργάστηκε με διάφορους άλλους οργανισμούς για να ανακοινώσει ένα χρηματοδοτικό κονδύλι ύψους 10 εκατομμυρίων δολαρίων. Αυτό το ποσό προορίζεται για ερευνητές που θα μελετήσουν τη συμπεριφορά των συστημάτων πολλαπλών πρακτόρων και θα αναπτύξουν μεθόδους για την αποτροπή μη ασφαλών σεναρίων. Στην πρωτοβουλία αυτή, εκτός από την Google DeepMind, συμμετέχουν οι Schmidt Sciences, ένα φιλανθρωπικό ίδρυμα που έχει συσταθεί για τον σκοπό αυτό· η ARIA, η υπηρεσία «moonshot» της κυβέρνησης του Ηνωμένου Βασιλείου· το Cooperative AI foundation, ένας μη κερδοσκοπικός ερευνητικός οργανισμός με έδρα το Ηνωμένο Βασίλειο· και ο φιλανθρωπικός βραχίονας της Google, το Google.org.
Ο υπογράφων ρώτησε τον κ. Shah και τον κ. James Fox, ο οποίος ηγείται του προγράμματος «Science of Trustworthy AI» στις Schmidt Sciences, τι ελπίζουν να επιτύχουν με αυτά τα 10 εκατομμύρια δολάρια. Αν και το ποσό δεν είναι αμελητέο, ωχριά μπροστά στις δικές της ερευνητικές ομάδες της DeepMind.
Ο στόχος είναι να δοθεί ώθηση στην έρευνα εκτός των τεχνολογικών εταιρειών, όπως δήλωσε ο κ. Shah: «Η δύναμη της ακαδημαϊκής κοινότητας έγκειται στο ότι μπορεί να κοιτάξει αρκετά μακριά στο μέλλον και να επιτελέσει το είδος της εργασίας που δεν αποτελεί κορυφαία προτεραιότητα στα εργαστήρια της βιομηχανίας».
«Το κύριο ζήτημα είναι ότι δεν υπάρχει ακόμη ένα πραγματικό πεδίο έρευνας για την ασφάλεια των συστημάτων πολλαπλών πρακτόρων», προσθέτει. «Και θα θέλαμε να υπάρξει».
Η ανησυχία είναι ότι καθώς όλο και περισσότεροι πράκτορες τεχνητής νοημοσύνης αναπτύσσονται και αρχίζουν να συνεργάζονται, θα μπορούσαμε να φτάσουμε σε ένα σημείο καμπής όπου φανταστικά σενάρια θα γίνουν πραγματικότητα. «Αυτό το βλέπουμε και με την ανθρωπότητα», αναφέρει ο κ. Shah. «Οι θεσμοί μας μπορούν να επιτύχουν πράγματα που κανένας μεμονωμένος άνθρωπος δεν μπορεί».
Ο κ. Shah εκτιμά ότι απομένουν λίγοι μήνες πριν οι πράκτορες αναπτυχθούν σε όλη την οικονομία σε αριθμούς που καθιστούν τους δυνητικούς κινδύνους μια πραγματική ανησυχία. Επιθυμεί να προλάβει αυτή τη στιγμή.
Επιχειρηματικοί κίνδυνοι
Ποιοι κίνδυνοι είναι αυτοί, ακριβώς; Οι πιθανότητες που έχουν κατά νου οι κ.κ. Shah και Fox συνοψίζονται κυρίως σε ενισχυμένες εκδοχές αρνητικών φαινομένων που ήδη συμβαίνουν στο διαδίκτυο: απάτες, ενέσεις προτροπών (όπου ένας πράκτορας AI τροφοδοτείται με κακόβουλες οδηγίες, μετατρέποντάς τον σε ένα αυτοκαθοδηγούμενο κομμάτι κακόβουλου λογισμικού), καθώς και άλλες μορφές κυβερνοεπίθεσης. «Εξετάζουμε τι κάνουν οι άνθρωποι τώρα και αναρωτιόμαστε ποια θα ήταν η εκδοχή του πράκτορα για αυτό», δηλώνει ο κ. Shah.
«Έχουμε αυτό το ψηφιακό κοινό αγαθό που είναι αναπόσπαστο στοιχείο του τρόπου λειτουργίας της κοινωνίας, και πραγματικά θέλουμε να διασφαλίσουμε ότι αυτό δεν θα εκφυλιστεί σε απόλυτη αναρχία», τονίζει ο κ. Fox.
(Ο υπογράφων ρώτησε τον κ. Shah αν εξετάζουν σενάρια χειρότερης περίπτωσης που κινούνται περισσότερο προς το «αποκαλυπτικό» άκρο του φάσματος, όπως μια εκτεταμένη οικονομική κατάρρευση. «Σίγουρα όχι αν μιλάμε [για έξι μήνες από τώρα]», απάντησε. Αυτό είναι μόνο έξι μήνες μακριά! Γέλασε. «Εντάξει, λίγο μετά από αυτό».)
Τόσο ο κ. Shah όσο και ο κ. Fox πιστεύουν ότι ο μόνος τρόπος για να κατανοήσουμε τι μπορεί να συμβεί όταν μεγάλος αριθμός συστημάτων πολλαπλών πρακτόρων αλληλεπιδρά μεταξύ τους είναι η εκτέλεση ρεαλιστικών προσομοιώσεων. Επιθυμούν οι ερευνητές να τοποθετήσουν πράκτορες τεχνητής νοημοσύνης σε περιβάλλοντα δοκιμών (sandboxes) και να μελετήσουν τη συμπεριφορά τους.
Δεν είναι δυνατόν να προβλεφθεί τι θα συμβεί [μεμονωμένα], ή ακόμη και με μικρές ομάδες πρακτόρων, σε απομόνωση. Δεν μπορεί κανείς να υποθέσει ότι οι πράκτορες τεχνητής νοημοσύνης που υποστηρίζονται [από τα τρέχοντα μοντέλα], όπως αναφέρει ο κ. Fox. Και η πολυπλοκότητα προκύπτει από τον τεράστιο αριθμό αλληλεπιδράσεων που συμβαίνουν ταυτόχρονα.
Ορισμένοι ερευνητές, συμπεριλαμβανομένης μιας ομάδας στην Google DeepMind, έχουν υποστηρίξει ότι η γενική τεχνητή νοημοσύνη (εάν είναι καθόλου εφικτή) θα μπορούσε να προέλθει όχι από ένα ενιαίο, εξαιρετικά έξυπνο μοντέλο, αλλά από ένα είδος συλλογικής νοημοσύνης πρακτόρων (agent hive mind), όπου οι δυνατότητες του συνόλου υπερβαίνουν το άθροισμα των μερών του.
Έλλειψη εμπιστοσύνης
Η Google DeepMind δεν είναι η μόνη κορυφαία εταιρεία τεχνητής νοημοσύνης που προειδοποιεί για τους κινδύνους της τεχνολογίας που αναπτύσσει. Πριν από μερικές εβδομάδες, η Anthropic δημοσίευσε κατευθυντήριες γραμμές για την ανάπτυξη πρακτόρων τεχνητής νοημοσύνης, βασισμένες σε μια προσέγγιση κυβερνοασφάλειας γνωστή ως «μηδενική εμπιστοσύνη» (zero trust), η οποία ξεκινά με την παραδοχή ότι ένα υπολογιστικό σύστημα είναι ευάλωτο, ένας πράκτορας είναι ένας επιτιθέμενος και μια παραβίαση θα συμβεί.
Ο κ. Refael Angel, συνιδρυτής και CTO της Akeyless, μιας εταιρείας κυβερνοασφάλειας με έδρα το Τελ Αβίβ, συμφωνεί ότι η κατανόηση των νέων κινδύνων που εισάγονται από συστήματα βασισμένα σε πράκτορες είναι ζωτικής σημασίας.
Κάθε προσέγγιση στην ασφάλεια στο παρελθόν υποθέτει ότι η εν λόγω μηχανή ήταν λογισμικό γραμμένο [για να κάνει] σταθερά πράγματα σε σταθερές διαδρομές, δηλώνει ο κ. Angel: «Ένας πράκτορας καταρρίπτει όλες αυτές τις υποθέσεις. Συλλογίζεται, αυτοσχεδιάζει και μπορεί να υποκλαπεί [μέσω] ενός εγγράφου που του ζητήθηκε να διαβάσει».
Ο κ. Angel χαιρετίζει αυτή τη νέα χρηματοδότηση. «Κανένα μεμονωμένο εργαστήριο δεν πρέπει να έχει να εμπιστευτεί», λέει. Ωστόσο, προειδοποιεί ότι οι ερευνητές ασφάλειας μπορεί να παραβλέψουν «βαρετά» προβλήματα που ήδη υπάρχουν, προς όφελος πιο εξωτικών υποθετικών.
Και όμως, σημειώνει ο κ. Fox, κίνδυνοι που ήταν υποθετικοί πριν από λίγα χρόνια είναι πλέον πολύ πραγματικοί: «Το μέλλον ήρθε πιο γρήγορα από ό,τι ίσως αναμενόταν».
