Η εταιρεία Anthropic ιδρύθηκε το 2021, έπειτα από την αποχώρηση μιας ομάδας ερευνητών της OpenAI, μεταξύ των οποίων οι Dario και Daniela Amodei, με σκοπό τη δημιουργία ενός ανταγωνιστικού εργαστηρίου. Η απόφασή τους βασίστηκε στην πεποίθηση ότι τα μοντέλα τεχνητής νοημοσύνης αποκτούσαν υπερβολική ισχύ για να αναπτύσσονται αποκλειστικά υπό το πρίσμα του ανταγωνισμού και της ταχύτητας.
Έκτοτε, η Anthropic έχει διαμορφώσει τη δημόσια εικόνα της γύρω από την έννοια της ασφάλειας της Τεχνητής Νοημοσύνης (ΤΝ). Στόχος της εταιρείας είναι η ανάπτυξη όχι μόνο ισχυρών μοντέλων, αλλά και μοντέλων που είναι ελέγξιμα και καθοδηγούμενα. Από αυτή την προσέγγιση προέρχεται η ιδέα της Συνταγματικής ΤΝ (Constitutional AI): η εκπαίδευση συστημάτων με τη χρήση ενός είδους «συντάγματος» που αποτελείται από αρχές και κανόνες, αντί της απλής χειροκίνητης διόρθωσης των πιο επικίνδυνων και ριψοκίνδυνων αποκρίσεων.
Η παρουσία του Christopher Olah, ερευνητή της Anthropic, στο Βατικανό δεν ήταν προφανώς τυχαία, ούτε αποτέλεσμα μιας συμβολικής κίνησης της τελευταίας στιγμής. Αποτέλεσε το επιστέγασμα μιας συνειδητής, μακροπρόθεσμης προσπάθειας, μέσω της οποίας το Βατικανό επιδίωξε σταδιακά να μετασχηματιστεί από ηθικός παρατηρητής της τεχνολογίας σε άμεσο συνομιλητή με τη βιομηχανία της ΤΝ.
Το πρώτο σημαντικό βήμα πραγματοποιήθηκε το 2020 με την πρωτοβουλία «Έκκληση της Ρώμης για την Ηθική της Τεχνητής Νοημοσύνης» (Rome Call for AI Ethics), η οποία προωθήθηκε σε συνεργασία με τη Microsoft, την IBM και άλλους διεθνείς οργανισμούς. Σκοπός της ήταν η θέσπιση ενός κοινού πλαισίου ηθικών αρχών για την ανάπτυξη της ΤΝ, συμπεριλαμβανομένης της διαφάνειας, της συμπερίληψης και της λογοδοσίας.
Εκείνη την περίοδο, το Βατικανό φαινόταν να δραστηριοποιείται κυρίως στον τομέα της βιοηθικής και των ηθικών ζητημάτων. Ωστόσο, τα επόμενα χρόνια, το πλαίσιο μεταβλήθηκε δραματικά. Η άνοδος του ChatGPT, ο αγώνας για τεχνολογική ηγεσία μεταξύ Ηνωμένων Πολιτειών και Κίνας, καθώς και η αυξανόμενη ισχύς των μεγάλων τεχνολογικών εταιρειών (Big Tech) έπεισαν σταδιακά την Αγία Έδρα ότι το ζήτημα δεν αφορούσε πλέον μόνο την ηθική της τεχνολογίας, αλλά το ίδιο το μέλλον της ανθρωπότητας.
Υπό αυτό το πρίσμα, η Anthropic αναδείχθηκε σε σημαντικό συνομιλητή. Σε αντίθεση με άλλες εταιρείες της Silicon Valley που έχουν οικοδομήσει τη φήμη τους κυρίως γύρω από την καινοτομία και την ανάπτυξη, η Anthropic έχει καταστήσει την ασφάλεια της ΤΝ βασικό στοιχείο της ταυτότητάς της.
Τα τελευταία χρόνια, το Βατικανό παρακολουθεί με ιδιαίτερη προσοχή μια συγκεκριμένη πτυχή της τεχνολογικής συζήτησης: την ευθυγράμμιση των μοντέλων ΤΝ.
Εδώ ακριβώς εισέρχεται ο Christopher Olah. Σε αντίθεση με τα αδέλφια Amodei, οι οποίοι είναι περισσότερο εκτεθειμένοι στα μέσα ενημέρωσης, ο Olah αντιπροσωπεύει την πιο θεωρητική και σχεδόν φιλοσοφική πλευρά της έρευνας στην ΤΝ. Είναι ένας από τους πιο γνωστούς ερευνητές παγκοσμίως στο θέμα της ερμηνευσιμότητας των μοντέλων (model interpretability), δηλαδή της προσπάθειας να κατανοηθεί τι συμβαίνει πραγματικά μέσα σε ολοένα και πιο πολύπλοκα νευρωνικά δίκτυα.
Στην προσωπική του ιστοσελίδα, ο Christopher Olah περιγράφει τον εαυτό του ως κάποιον που προσπαθεί να «transform neural networks into algorithms understandable to human beings.» Και είναι δύσκολο να φανταστεί κανείς μια προσωπικότητα πιο ευθυγραμμισμένη με τον πυρήνα της εγκυκλίου του Πάπα Λέοντα ΙΔ΄: έναν προβληματισμό που επικεντρώνεται στον κίνδυνο δημιουργίας τεχνολογιών που καθίστανται υπερβολικά ισχυρές για να κατανοηθούν, να ελεγχθούν ή να κυβερνηθούν.
Σύμφωνα με διάφορες δημοσιογραφικές πηγές, οι επαφές μεταξύ κύκλων προσκείμενων στην Αγία Έδρα και της Anthropic ενδέχεται να εντάθηκαν κατά τη διάρκεια των παγκόσμιων συνόδων κορυφής για την ασφάλεια της ΤΝ. Το Βατικανό είδε στην Anthropic μια εταιρεία τουλάχιστον πρόθυμη να αναγνωρίσει δημόσια ότι το πρόβλημα της τεχνητής νοημοσύνης δεν μπορεί να επιλυθεί.
Αυτό είναι ένα σημείο που τονίζεται τόσο στο κείμενο της εγκυκλίου όσο και κατά την παρουσίασή της. Το έγγραφο επιμένει επανειλημμένα στην ιδέα ότι η τεχνολογία δεν είναι ουδέτερη και ότι οι αλγόριθμοι ενσωματώνουν αναπόφευκτα μια συγκεκριμένη κοσμοθεωρία. Μέσω του έργου της Συνταγματικής ΤΝ, η Anthropic επιχειρεί ακριβώς αυτό: την ρητή εισαγωγή αξιών, κανόνων και αρχών στη συμπεριφορά των μοντέλων ΤΝ.
Ουσιαστικά, η σύνδεση μεταξύ του Βατικανού και της Anthropic έγκειται σε έναν κοινό φόβο: ότι τα ολοένα και πιο ισχυρά συστήματα θα μπορούσαν να διαμορφωθούν αποκλειστικά, γεωπολιτικά και ανταγωνιστικά κίνητρα που οδηγούν την παγκόσμια κούρσα της ΤΝ.
Η ιστορία έχει επίσης μια βιομηχανική διάσταση, όχι μόνο πνευματική: Για την Anthropic, η σχέση της με το Βατικανό φέρει αναπόφευκτα τεράστια φήμη. Σε μια εποχή που η τεχνητή νοημοσύνη καθίσταται ολοένα και πιο κεντρική στις συζητήσεις για την εργασία, την εθνική ασφάλεια, την επιτήρηση και τη στρατιωτική ισχύ, η εικόνα μιας «εταιρείας ηθικής ΤΝ» αποτελεί ένα σημαντικό πλεονέκτημα.
Το Claude, το chatbot της Anthropic, δημιουργήθηκε ακριβώς γύρω από την ιδέα της εμπιστοσύνης με τους χρήστες. Το μοντέλο «responds» σε ένα ηθικό σύνταγμα, η δημόσια γλώσσα της εταιρείας περιστρέφεται συνεχώς γύρω από την ευθύνη και την ασφάλεια, και η ίδια η ηθική γίνεται μέρος της συμβολικής υποδομής του προϊόντος.
Ο ίδιος ο τίτλος της εγκυκλίου περιστρέφεται γύρω από μια συγκεκριμένη ένταση: Ο άνθρωπος περιγράφεται ως «magnificent,» αλλά ταυτόχρονα ικανός να δημιουργήσει νέες μορφές απανθρωποποίησης. Από αυτή την οπτική, η τεχνητή νοημοσύνη δεν είναι κακή αφ’ εαυτής. Αποτελεί έναν καθρέφτη των ανθρώπων που την κατασκευάζουν.
Για τον λόγο αυτό, το Βατικανό προειδοποιεί επανειλημμένα για τον κίνδυνο μιας νέας, «ψηφιακής Βαβυλώνας»: μιας κοινωνίας που ανάγει τους ανθρώπους, τις σχέσεις, ακόμη και την ίδια την αλήθεια σε δεδομένα, επιδόσεις και αποδοτικότητα.
Στο κείμενο, ο Πάπας Λέων ΙΔ΄ αναφέρεται ρητά στη συγκέντρωση της τεχνολογικής ισχύος στα χέρια ενός μικρού αριθμού διακρατικών ιδιωτικών φορέων. Πρόκειται για μια κριτική που απηχεί πολλές σύγχρονες συζητήσεις γύρω από τη διακυβέρνηση της ΤΝ: Ποιος ελέγχει τα μοντέλα; Ποιος αποφασίζει τα κριτήρια; Ποιος κατέχει την υποδομή του μέλλοντος;
Κατά την παρουσίαση της εγκυκλίου, ο Christopher Olah δήλωσε κάτι ασυνήθιστο για ένα στέλεχος τεχνολογίας: Αναγνώρισε ανοιχτά ότι ακόμη και οι εταιρείες που είναι πιο προσεκτικές στην ηθική παραμένουν βυθισμένες σε οικονομικά, γεωπολιτικά και ανταγωνιστικά κίνητρα που μπορούν να συγκρούονται με το «doing the right thing.» Με αυτόν τον τρόπο, αναγνώρισε δημόσια ότι το πρόβλημα της τεχνητής νοημοσύνης δεν μπορεί να αφεθεί αποκλειστικά στην αυτορρύθμιση των τεχνολογικών εταιρειών.
Στις συζητήσεις για την ΤΝ, οι συγκρίσεις με την ατομική βόμβα επανέρχονται ξανά και ξανά. Η διαφορά είναι ότι η πυρηνική τεχνολογία ελεγχόταν, ενώ η ΤΝ αναπτύσσεται κυρίως εντός ιδιωτικών εταιρειών. Αυτό είναι ένα από τα κεντρικά σημεία της εγκυκλίου: Σήμερα, «technological power takes on a new face, one that is predominantly private.»
Και εδώ αναδύεται ένας κοινός φόβος – εκφρασμένος με πολύ διαφορετική γλώσσα και από τα δύο μέρη του κόσμου της ΤΝ που επικεντρώνονται περισσότερο στην ασφάλεια: ότι τα ολοένα και πιο ισχυρά συστήματα, όπως αυτά που αναπτύσσονται τώρα, θα μπορούσαν να καταλήξουν να καθοδηγούνται.
Από αυτή την οπτική, η «Χιροσίμα του 21ου αιώνα» ενδέχεται να μην είναι ένα μεμονωμένο καταστροφικό γεγονός, αλλά μάλλον μια αργή διαδικασία κοινωνικής αυτοματοποίησης, στην οποία οι άνθρωποι αρχίζουν να αναθέτουν στις μηχανές τους τρόπους με τους οποίους σκέφτονται, επιλέγουν, ενημερώνονται και σχετίζονται μεταξύ τους. Με άλλα λόγια, ο κίνδυνος είναι η Magnifica humanitas να μετατραπεί σε κάτι terribilis.
Πηγή: wired.com
