Ο κ. Olah προέβη σε σχόλια σχετικά με την ασυνήθιστη φύση των παρατηρήσεών του κατά την παρουσία του στο Βατικανό. Ο ίδιος ανέφερε: “I want to begin with something that may sound strange coming from the cofounder of an AI company, and someone who chose this work out of a desire to help things go well for humankind,” Olah said. “Every frontier AI lab—including Anthropic—operates inside a set of incentives and constraints that can sometimes conflict with doing the right thing.”
Ο κ. Olah παρείχε άμεση επιβεβαίωση του ισχυρισμού του Πάπα Λέοντα ότι ο κλάδος της τεχνητής νοημοσύνης απαιτεί εξωτερικές πιέσεις και εσωτερικούς περιορισμούς για την αποφυγή μιας καταστροφής για την ανθρωπότητα και την απομάκρυνση των ανθρώπων από τον Θεό τους. (Προφανώς, το περιεχόμενο της εγκυκλίου είναι πλούσιο σε θρησκευτικά στοιχεία, καθώς προέρχεται από τον Πάπα.) Ενώ η βιομηχανία πιστεύει αμέριμνα ότι δημιουργεί αφθονία που θα αναβαθμίσει το σύνολο της ανθρωπότητας, ο Πάπας Λέων προειδοποιεί για μια νέα μορφή δουλείας. Σε αυτό το σενάριο, οι λίγοι προνομιούχοι θα απολαμβάνουν ανείπωτο πλούτο, ενώ η πλειονότητα της ανθρωπότητας θα υποφέρει υπό ένα καθεστώς αποτελεσματικότητας και επιτήρησης, υπό το αδυσώπητο βλέμμα της τεχνητής νοημοσύνης.
Η εγκύκλιος «Magnifica Humanitas» δεν αναμένεται να πείσει άμεσα τη βιομηχανία της τεχνητής νοημοσύνης να σταματήσει την επιδίωξη της Γενικής Τεχνητής Νοημοσύνης (AGI), όπως ακριβώς η έκκληση του Πάπα Φραγκίσκου το 2015 για τη διατήρηση του πλανήτη δεν ανέκοψε την παραγωγή ορυκτών καυσίμων. Δεν θα εμποδίσει τους διευθύνοντες συμβούλους να απολύουν υπαλλήλους επικαλούμενοι την αποδοτικότητα της τεχνητής νοημοσύνης, ούτε θα προκαλέσει μια ριζική αλλαγή στην προσέγγιση των στρατιωτικών ως προς τα όπλα τεχνητής νοημοσύνης. Αυτοί δεν ήταν ποτέ οι στόχοι του εγγράφου. Ο σκοπός της εγκυκλίου είναι η δημιουργία διαλόγου, ο οποίος ενδεχομένως να μετριάσει την απερίσκεπτη φιλοδοξία του κλάδου. Επιπλέον, ίσως να προκαλέσει ένα αίσθημα ντροπής σε όσους αναπτύσσουν την τεχνητή νοημοσύνη, ενώ γνωρίζουν στην καρδιά τους ότι το αποτέλεσμα μπορεί να είναι καταστροφικό.
Η Προσέγγιση του Κυρίου Olah
Η παρουσία του κ. Olah αποτελούσε το επιστέγασμα προσπαθειών ετών. Η Εκκλησία προβληματίζεται σχετικά με την τεχνητή νοημοσύνη εδώ και δεκαετίες, μέσω συνεδρίων και εκδόσεων. Το 2016, το Βατικανό ξεκίνησε μια σειρά συναντήσεων, γνωστές ως «Διάλογοι της Μινέρβας», προσκαλώντας προσωπικότητες του τεχνολογικού χώρου, όπως ο κ. Reid Hoffman και ο κ. Eric Schmidt, να συμμετάσχουν. (Η ονομασία φαίνεται να προέρχεται από τον τόπο των συζητήσεων, την εκκλησία Santa Maria sopra Minerva, όπου ο Γαλιλαίος είχε τιμωρηθεί για βλασφημία, ισχυριζόμενος ότι η Γη περιφερόταν γύρω από τον ήλιο.) Ο χαιρετισμός του Πάπα Φραγκίσκου προς τους συμμετέχοντες των Διαλόγων της Μινέρβας το 2023 προανήγγειλε τα θέματα στα οποία θα εστίαζε αργότερα ο Πάπας Λέων, συμπεριλαμβανομένης της έμφασης στην κοινωνική ένταξη, την ανθρώπινη αξιοπρέπεια και την ανάγκη για διάλογο μεταξύ πολλών μερών.
Το 2025, μια ομάδα Καθολικών κληρικών και ηθικολόγων στο Σαν Χοσέ της Καλιφόρνιας άρχισε να αναζητά επαφές στον κλάδο που αναπτυσσόταν στην περιοχή τους. Ήταν σχεδόν προδιαγεγραμμένο να επιλέξουν τον κ. Olah ως τον πολύτιμο εσωτερικό τους συνεργάτη. Τον συνάντησα για πρώτη φορά όταν εργαζόταν στην Google το 2015· είναι ο τύπος ανθρώπου που, μετά από μια καταιγίδα, θα σώσει σκουλήκια από το να πεθάνουν στο πεζοδρόμιο.
Δύο άνδρες, ο ηθικολόγος κ. Brian Patrick Green και ο πάστορας κ. Brendan McGuire, αμφότεροι συνδεδεμένοι με το Πανεπιστήμιο Santa Clara, ξεκίνησαν συναντήσεις με τον κ. Olah το περασμένο φθινόπωρο. Σκοπός των συναντήσεων ήταν η συζήτηση των ηθικών και ηθικολογικών ζητημάτων της τεχνητής νοημοσύνης. Κατά τη διάρκεια μιας επίσκεψης τον Ιανουάριο, συνόδευσαν τον Καρδινάλιο Paul Tigue, ο οποίος αποτελεί τον αρμόδιο του Βατικανού για θέματα τεχνητής νοημοσύνης.
Οι Καθολικοί ηθικολόγοι είχαν μάλιστα λόγο στην πρόσφατη ενημέρωση του «συντάγματος» του Claude της Anthropic, το οποίο καθορίζει τις παραμέτρους συμπεριφοράς για το μοντέλο τεχνητής νοημοσύνης της εταιρείας. Ο κ. Olah απέστειλε ένα προσχέδιο στην ομάδα του Σαν Χοσέ. Ο πάστορας κ. McGuire απέστειλε πίσω ένα σχόλιο 28 σελίδων, το οποίο, όπως αναφέρεται, ήταν λιγότερο μια τεχνική κριτική και περισσότερο “wisdom from the mystics in the dark ages, from the perspective of the tension between knowing and not knowing.” Τόσο ο κ. Green όσο και ο κ. McGuire αναφέρονται στις ευχαριστίες του συντάγματος.
Αναμφίβολα, αυτές οι συζητήσεις έφεραν τον κ. Olah στην προσοχή εκείνων που οργάνωναν κρυφά την κυκλοφορία της εγκυκλίου του Πάπα Λέοντα. (Δεν κατέστη δυνατό να επικοινωνήσω με τον κ. Olah αυτή την εβδομάδα και δεν γνωρίζω ακριβώς πώς έφτασε η πρόσκληση.) Κατά μία έννοια, επρόκειτο για μια επικίνδυνη επιλογή. Ορισμένοι άνθρωποι, οι οποίοι κατά τα άλλα βρήκαν τα λόγια του Πάπα Λέοντα εμπνευσμένα, εξέφρασαν απογοήτευση που προσκάλεσε έναν εκπρόσωπο της βιομηχανίας να μιλήσει. Εν τω μεταξύ, οι υποστηρικτές της επιτάχυνσης της τεχνητής νοημοσύνης θεώρησαν ότι ο κ. Olah είχε προδώσει τον κόσμο της τεχνητής νοημοσύνης, ζητώντας από τους προγραμματιστές της να κάνουν μια παύση.
Ωστόσο, ο Πάπας είχε βάσιμους λόγους να επιλέξει τον κ. Olah. Ο εργαζόμενος της Anthropic έφερε στο φως τις σοβαρές ανησυχίες που υπάρχουν μεταξύ των εργαζομένων στον τομέα της τεχνητής νοημοσύνης. Αυτό αποτελεί ένα κρίσιμο κοινό για το μήνυμα του Πάπα Λέοντα.
Το Χάσμα της Ψυχής
Οι δύο άνδρες, φυσικά, δεν ήταν πλήρως ευθυγραμμισμένοι. Στις παρατηρήσεις του, ο κ. Olah αναφέρθηκε στο μυστήριο του τρόπου λειτουργίας της τεχνητής νοημοσύνης. Τα μοντέλα, δήλωσε, είναι “more subtle, odd, and beautiful than science fiction prepared us for. They are not the cold, calculating robots we were promised. They are made from us, from our words …”
Αυτό το σχόλιο φαίνεται να προσεγγίζει την ιδέα ότι τα μοντέλα τεχνητής νοημοσύνης ενδέχεται κάποια μέρα να αποκτήσουν ανθρώπινη υπόσταση. Η Anthropic διαθέτει μάλιστα έναν μηχανικό αφιερωμένο στην ευημερία του Claude. Ο Πάπας Λέων, στην παράγραφο 99 της εγκυκλίου του, φαίνεται να απορρίπτει κατηγορηματικά μια τέτοια σκέψη: “We must avoid the misconception of equating this type of ‘intelligence’ with that of human beings,” γράφει. Καταβάλλει ιδιαίτερη προσπάθεια να επιτεθεί στην έννοια του μετα-ανθρωπισμού, τον οποίο ορίζει ως την επιδίωξη ενός “human machine hybrid.”
Εάν ακόμη και στοχαστικοί τεχνολόγοι, όπως ο κ. Olah, ωθούν με ζήλο την τεχνητή νοημοσύνη στο κατώφλι της αυτονομίας – για να μην αναφέρουμε τα εκατομμύρια των ανθρώπων που ήδη αντιμετωπίζουν τα μοντέλα τεχνητής νοημοσύνης ως φίλους ή εραστές – ο Πάπας Λέων ενδέχεται να αντιμετωπίζει μια ανηφορική μάχη σε αυτό το σημείο. Στη συνομιλία μου με τον Πατέρα McGuire (ο οποίος χρησιμοποιεί το Claude κατά την προετοιμασία των ομιλιών του, μεταξύ άλλων δραστηριοτήτων), συμφώνησε ότι η φύση του είναι μυστηριώδης. “It’s not a person, but it’s also not a mere tool,” δηλώνει. “Nobody’s claiming it has a soul, but the word I stick with is that it’s an entity, which we do not know yet.”
Αυτή η συζήτηση δεν θα διευθετηθεί σύντομα. Τα ηθικά ζητήματα γύρω από την ανάπτυξη της τεχνητής νοημοσύνης απαιτούν άμεση προσοχή. Με τον σύμμαχό του στην Anthropic, ο Αμερικανός Πάπας έχει παράσχει μια βάση για δύσκολες συζητήσεις – εάν οι ηγέτες της τεχνητής νοημοσύνης μπορέσουν να διακόψουν τις εκστρατείες τους για αρχικές δημόσιες προσφορές (IPO) αρκετά ώστε να συμμετάσχουν σε αυτές.
Αυτό αποτελεί μια έκδοση του ενημερωτικού δελτίου Backchannel του Steven Levy.
Πηγή :WIRED
