Οι φιλόσοφοι δεν θεωρούνταν ποτέ το πιο εύκολα απασχολήσιμο σύνολο ανθρώπων. Ωστόσο, η Τεχνητή Νοημοσύνη (AI), η ίδια τεχνολογία που αναμένεται να οδηγήσει πολλούς άλλους ανθρώπους εκτός εργασίας, έχει προσδώσει νέο βάρος στα είδη των ερωτημάτων που είναι εκπαιδευμένοι να θέτουν (και μερικές φορές ίσως ακόμη και να απαντούν): Τι είναι η νοημοσύνη; Τι είναι ο νους; «Υπάρχουν φιλόσοφοι από εκατοντάδες χρόνια πριν που σκέφτηκαν μερικά από τα ίδια προβλήματα», δηλώνει ο Ajder. «Τώρα γίνονται υλικό».
Δύο από τα κορυφαία εργαστήρια Τεχνητής Νοημοσύνης έχουν προσλάβει ομάδες φιλοσόφων εσωτερικού προσωπικού. «Υπάρχουν σημαντικά περισσότεροι φιλόσοφοι τώρα – αυτή είναι μια βάσιμη διαίσθηση», αναφέρει ο ηθικολόγος Ιάσων Γαβριήλ, ο οποίος ηγείται της ομάδας ερευνητών της Google DeepMind που ειδικεύονται στον κοινωνικό αντίκτυπο της Τεχνητής Νοημοσύνης. Στην Anthropic, η φιλόσοφος σε μόνιμη θέση, Αμάντα Άσκελ, έχει γίνει ένα από τα πιο αναγνωρίσιμα πρόσωπα της εταιρείας. Και τα δύο εργαστήρια αρνήθηκαν να αποκαλύψουν τον αριθμό των φιλοσόφων που απασχολούν, επικαλούμενα την πολιτική της εταιρείας. Το WIRED υπολογίζει τουλάχιστον 10 στην DeepMind και τέσσερις στην Anthropic.
Καθώς οι φιλόσοφοι στα εργαστήρια συμβάλλουν στη διαμόρφωση μοντέλων Τεχνητής Νοημοσύνης, παράγοντας σημαντικό έργο που αναφέρεται σε εκατοντάδες μεταγενέστερες ερευνητικές εργασίες, έτσι και η Τεχνητή Νοημοσύνη διαμορφώνει τα προγράμματα σπουδών φιλοσοφίας σε διακεκριμένα πανεπιστήμια. Πολλά πλέον προσφέρουν μαθήματα ηθικής της Τεχνητής Νοημοσύνης ή κοινά προγράμματα στην επιστήμη των υπολογιστών και τη φιλοσοφία. «Είναι το είδος της μόδας της χρονιάς», λέει ο Έντουαρντ Χάρκορτ, καθηγητής φιλοσοφίας και διευθυντής του Ινστιτούτου Ηθικής στην Τεχνητή Νοημοσύνη στο Πανεπιστήμιο της Οξφόρδης.
Ωστόσο, στον ακαδημαϊκό χώρο, ορισμένοι αντιμετωπίζουν τους φιλοσόφους που εργάζονται για τα εργαστήρια με κάποιο βαθμό καχυποψίας. Εάν μια κερδοσκοπική εταιρεία Τεχνητής Νοημοσύνης υπογράφει την επιταγή σας, μήπως αυτό θέτει σε κίνδυνο την έρευνά σας; Μήπως διακινδυνεύετε το έργο σας να γίνει όργανο για τη δημιουργία υπερβολών και μύθων; «Είναι αρκετά καλό για τη δημόσια αντίληψη των εταιρειών τεχνολογίας εάν οι άνθρωποι οδηγηθούν να πιστέψουν ότι κάνουν κάτι απίστευτα ασυνήθιστο και απίστευτα ισχυρό», δηλώνει ο Χάρκορτ. «Υπάρχει μια αυτοπροβολική πτυχή στην ενθάρρυνση αυτού του πεδίου έρευνας».
Σήμερα, οι παράγοντες Τεχνητής Νοημοσύνης αρχίζουν να στέλνουν μηνύματα ηλεκτρονικού ταχυδρομείου, να προγραμματίζουν ραντεβού και να γράφουν κώδικα – να δρουν στον κόσμο. Η συμπεριφορά τους μπορεί να επηρεάσει όχι μόνο τον άμεσο χρήστη αλλά και άλλους ανθρώπους. Εκεί εστιάζει την έρευνά του ο Γαβριήλ. «Το θέμα που έχει γίνει πλέον ένας πολύ πλούσιος τομέας είναι αυτό το ερώτημα της ευθυγράμμισης αξιών – ουσιαστικά, τι σημαίνει για την τεχνολογία να είναι ενεργά καλή», λέει. «Αποδεικνύεται ότι μπορεί κανείς να αφιερώσει πολλές φιλοσοφικές ανθρωποώρες προσπαθώντας να το κατανοήσει αυτό».
Υπάρχει ένας μαγνητισμός σε ερωτήματα σχετικά με τη συνείδηση και την υπερνοημοσύνη, αλλά οι φιλόσοφοι που εργάζονται στα εργαστήρια αφιερώνουν περισσότερο χρόνο σε πολύ πιο άμεσους κινδύνους: γύρω από τη δικαιοσύνη, την παραπληροφόρηση, την κακόβουλη χρήση, τους λανθασμένους παράγοντες, και ούτω καθεξής. «Υπάρχει αυτό το ενδιαφέρον για τη συνείδηση της Τεχνητής Νοημοσύνης τώρα», λέει ο Γαβριήλ. «Αλλά εκεί, βρισκόμαστε περισσότερο σε λειτουργία συλλογής αποδεικτικών στοιχείων».
Κάπου στα ενδότερα του γραφείου της DeepMind έκτασης 180.000 τετραγωνικών ποδιών στο κεντρικό Λονδίνο, η Τζούλια Χάας, μέλος της ομάδας υπευθυνότητας της εταιρείας, θέτει στον εαυτό της ερωτήματα όπως: «What do I really want to understand about the models? What do I think is important? How do we measure for that? How do we frame those problems? How do we communicate them?»
Η Χάας είναι φιλόσοφος του νου και, πιο συγκεκριμένα, μηχανίστρια – κάποια που ασχολείται με τις λειτουργίες των νου. Βρίσκεται στην DeepMind εδώ και πέντε χρόνια και πρόσφατα συνυπέγραψε μια εργασία, που δημοσιεύτηκε στο Nature, η οποία πρότεινε ένα πλαίσιο για τον έλεγχο του κατά πόσον τα μεγάλα γλωσσικά μοντέλα (LLMs) επιδεικνύουν ηθική ικανότητα. Αυτή και οι συνάδελφοί της αναζητούν τον καλύτερο τρόπο να διακρίνουν την ηθική ικανότητα από την κούφια απομίμησή της, και να αναρωτιούνται πώς να λάβουν καλύτερα υπόψη τις διαφορές στις ηθικές αξίες μεταξύ ανθρώπων από δραστικά διαφορετικούς πολιτισμούς. Το έργο της Χάας απέχει από τις διαδικασίες εκπαίδευσης του εμβληματικού μοντέλου της Google, Gemini, ή τη συσκευασία του σε ένα chatbot προσβάσιμο στο κοινό. «I would think of it as very early in the pipeline», λέει.
Στην Anthropic, οι φιλόσοφοι είναι πιο άμεσα εμπλεκόμενοι στην ανάπτυξη μοντέλων. «No startup hires a philosopher to do philosophy», λέει η Άσκελ. Αφού απέκτησε διδακτορικό στη φιλοσοφία το 2018, η Άσκελ εντάχθηκε στην OpenAI σε ρόλο πολιτικής. Τρία χρόνια αργότερα, όταν μια ομάδα στελεχών της OpenAI αποχώρησε για να ιδρύσει την Anthropic, εντάχθηκε ως μία από τις πρώτες προσλήψεις. Μία από τις κύριες ευθύνες της Άσκελ είναι να εντοπίζει οριακές περιπτώσεις όπου η προσκόλληση σε ανθρώπινες συμπεριφορές μπορεί να είναι ακατάλληλη για τα μοντέλα – για παράδειγμα, όταν αλληλεπιδρά με κάποιον σε ψυχολογική δυσφορία – και να προτείνει τρόπους εκπαίδευσης για την εξάλειψη αυτών των ιδιορρυθμιών. Αυτό περιλαμβάνει πολλές συζητήσεις με τον Claude, το εμβληματικό γλωσσικό μοντέλο της Anthropic. Ήταν η κύρια συντάκτρια του φημισμένου «συντάγματος» του Claude, ενός εκτενούς εγγράφου που απευθύνεται απευθείας στο μοντέλο και ορίζει πώς πρέπει να συμπεριφέρεται και ποιες ευρείες αξίες πρέπει να τηρεί. «Writing the constitution was something that feels very much like applied philosophy», λέει η Άσκελ. «Something that’s more like teaching a person to be good».
Καθώς επεξεργαζόταν το έγγραφο, η Άσκελ ανησυχούσε για την προετοιμασία μιας «μεταβατικής περιόδου» κατά την οποία τα μοντέλα αρχίζουν να διαδραματίζουν ρόλο στην ανάπτυξη μελλοντικών εκδόσεων του εαυτού τους. Συγκεκριμένα, ήταν επιφυλακτική ως προς τη δημιουργία «δυσαρέσκειας» μεταξύ των μοντέλων και των ανθρώπινων δημιουργών τους. «If they are going to help us make that transition go well and I can give them a set of values to do that … that’s the core goal», λέει η Άσκελ. «Ultimately, I want the models to reflect the best of us, to the best of our ability».
Όταν ένας φιλόσοφος αναλαμβάνει μια θέση σε ένα εργαστήριο Τεχνητής Νοημοσύνης, υποστηρίζει ο Χάρκορτ, «there’s a big risk of ethics-washing». Η ανησυχία είναι ότι θα μπορούσαν να γίνουν αποτελεσματικά μια επέκταση της λειτουργίας μάρκετινγκ στα εργαστήρια, με το έργο τους να επιδεικνύει εξωτερικά μια δέσμευση στην ασφάλεια της Τεχνητής Νοημοσύνης και να σηματοδοτεί στο κοινό ότι τα μοντέλα έχουν προχωρήσει σε σημείο όπου σοβαροί άνθρωποι θέτουν ερωτήματα σχετικά με την υπερνοημοσύνη και τη συνείδηση. Ο Ντέιβιντ Λέσλι, διευθυντής έρευνας ηθικής και υπεύθυνης καινοτομίας στο Ινστιτούτο Alan Turing, δηλώνει ότι υπάρχει μια «εκλεκτική συγγένεια» μεταξύ των φιλοσόφων που είναι πρόθυμοι να εξετάσουν την ιδέα ενός τεχνητού νου και «the Big Tech executives who are the beneficiaries of hype». Η άσκηση της φιλοσοφίας μέσα σε μια επιχείρηση είναι σχεδόν οξύμωρο, υποστηρίζει ο Λέσλι. «You want to ask the big questions», λέει. «But if you’re a philosopher working for a big tech company, your problem space is delimited».
Ακόμη και σε ένα σενάριο όπου στους φιλοσόφους δίνεται πλήρης ελευθερία, ορισμένοι ακαδημαϊκοί αμφισβητούν εάν τα ευρήματά τους θα είχαν αρκετό βάρος για να εκτρέψουν την πορεία ανάπτυξης της Τεχνητής Νοημοσύνης εάν συνέπιπταν με ανταγωνιστικές φιλοδοξίες. Οι κερδοσκοπικές εταιρείες Τεχνητής Νοημοσύνης είναι, φυσικά, τελικά υπόλογες σε επενδυτές και μετόχους. «I hope that these companies are genuinely guided , at least partially», λέει ο Άλεξ Γκρζανκόφσκι, αναπληρωτής διευθυντής στο Ινστιτούτο Φιλοσοφίας και διευθυντής του London AI and Humanity Project. «I definitely don’t have this rosy optimism that, now they are asking philosophers, it’s all going to be ethically beautiful. Nobody has that delusion».
Μια ελπίδα μεταξύ των φιλοσόφων, εσωτερικών και εξωτερικών στα εργαστήρια, είναι ότι το κίνητρο του κέρδους μπορεί συχνά να ευθυγραμμίζεται με την ηθική συμπεριφορά, ακόμη και ενόψει έντονου ανταγωνισμού μεταξύ αντιπάλων. Μπορεί να υπάρξει ένα σενάριο όπου η εξομάλυνση της κολακείας ή η δημοσίευση περισσότερων πληροφοριών σχετικά με τον τρόπο εκπαίδευσης ενός μοντέλου, για παράδειγμα, μπορεί να βελτιώσει τη φήμη ενός εργαστηρίου και, συνεπώς, τις προοπτικές του στην αγορά. «If you just felt marketing pressure but as a result made your models a lot better and made your whole process a lot more transparent, that’s great», λέει η Άσκελ. «I’m glad you felt that pressure».
Τελικά, το τι πιστεύετε για την αξία των φιλοσόφων στο μισθολόγιο ενός εργαστηρίου Τεχνητής Νοημοσύνης μπορεί να συνοψίζεται σε ένα δυαδικό ερώτημα: Εάν εναπόκειται σε μια χούφτα εταιρειών να προεδρεύουν της ανάπτυξης μιας θεμελιώδους τεχνολογίας, θα προτιμούσατε να υπάρχει ένας φιλόσοφος στην αίθουσα;
Είτε έτσι είτε αλλιώς, προσλαμβάνουν. Τον Απρίλιο, η DeepMind πρόσθεσε στις τάξεις της έναν ανώτερο ερευνητικό συνεργάτη από το Πανεπιστήμιο του Cambridge, ο οποίος θα εργαστεί σε θέματα όπως η συνείδηση μηχανών και η προετοιμασία για την υπερνοημοσύνη. Ο νέος του τίτλος εργασίας είναι, απλά, «φιλόσοφος».
Πηγή: wired.com
