Ο Στίβεν Λέβι σημειώνει ότι το βιβλίο «Deep Utopia» παρουσιάζεται ως πιο αισιόδοξο σε σύγκριση με προηγούμενα έργα του Νικ Μπόστρομ, και τον ρωτά τι έχει αλλάξει στην οπτική του. Ο Νικ Μπόστρομ απαντά ότι αυτοχαρακτηρίζεται ως «ανήσυχος αισιόδοξος». Εκφράζει μεγάλο ενθουσιασμό για τις δυνατότητες ριζικής βελτίωσης της ανθρώπινης ζωής και την απελευθέρωση νέων προοπτικών για τον πολιτισμό μας. Αυτή η στάση, διευκρινίζει, είναι συμβατή με την υπαρκτή πιθανότητα τα πράγματα να εξελιχθούν αρνητικά.
Ο Λέβι αναφέρεται σε μια εργασία του Μπόστρομ που περιείχε ένα εντυπωσιακό επιχείρημα: δεδομένου ότι όλοι οι άνθρωποι θα πεθάνουν ούτως ή άλλως, το χειρότερο που μπορεί να συμβεί με την Τεχνητή Νοημοσύνη (ΤΝ) είναι να επισπεύσει τον θάνατό μας. Αντιθέτως, εάν η ΤΝ λειτουργήσει επιτυχώς, θα μπορούσε να παρατείνει τη ζωή μας, ίσως και επ’ αόριστον.
Ο Μπόστρομ εξηγεί ότι η συγκεκριμένη εργασία εξετάζει ρητά μόνο μία πτυχή του θέματος. Επισημαίνει ότι σε οποιαδήποτε ακαδημαϊκή δημοσίευση δεν είναι εφικτό να καλυφθούν «η ζωή, το σύμπαν και το νόημα των πάντων». Συνεπώς, η προσέγγιση ήταν να εστιαστεί σε αυτό το «μικρό ζήτημα» και να επιχειρηθεί η πλήρης ανάλυσή του.
Ο Λέβι αντιτείνει ότι αυτό δεν είναι ένα «μικρό ζήτημα».
Ο Μπόστρομ δηλώνει ότι τον έχει ενοχλήσει η αντίδραση του τύπου «φτιάχνεις ΤΝ, θα σκοτώσεις εμένα και τα παιδιά μου, και πώς τολμάς». Αναφέρει ως παράδειγμα το πρόσφατο βιβλίο «If Anyone Builds It, Everyone Dies». Υποστηρίζει ότι ακόμη πιο πιθανό είναι «αν κανείς δεν την κατασκευάσει, όλοι πεθαίνουν!». Αυτή, προσθέτει, είναι η εμπειρία των τελευταίων εκατοντάδων χιλιάδων ετών.
Ο Λέβι επισημαίνει ότι στο σενάριο της καταστροφής («doomer scenario») όλοι πεθαίνουν και δεν γεννιούνται πλέον άνθρωποι, κάτι που συνιστά «μεγάλη διαφορά».
Ο Μπόστρομ αναγνωρίζει ότι έχει ασχοληθεί εκτενώς με αυτή την ανησυχία. Ωστόσο, στην εν λόγω εργασία, εξετάζει ένα διαφορετικό ερώτημα: τι θα ήταν το καλύτερο για τον «υπάρχοντα ανθρώπινο πληθυσμό», όπως ο Λέβι, ο ίδιος, οι οικογένειές τους και οι κάτοικοι του Μπαγκλαντές. Φαίνεται, υποστηρίζει, ότι το προσδόκιμο ζωής τους θα αυξανόταν εάν αναπτύξουμε ΤΝ, ακόμη και αν αυτό ενέχει σημαντικούς κινδύνους.
Στο βιβλίο «Deep Utopia», ο Μπόστρομ εικάζει ότι η ΤΝ θα μπορούσε να δημιουργήσει απίστευτη αφθονία, σε τέτοιο βαθμό που η ανθρωπότητα θα αντιμετώπιζε ένα τεράστιο πρόβλημα στην εύρεση σκοπού. Ο Λέβι, ως κάτοικος των Ηνωμένων Πολιτειών, μιας πολύ πλούσιας χώρας, παρατηρεί ότι η κυβέρνηση, φαινομενικά με την υποστήριξη του λαού, εφαρμόζει πολιτικές που αρνούνται υπηρεσίες στους φτωχούς και διανέμουν ανταμοιβές στους πλούσιους. Εκφράζει την άποψη ότι ακόμη και αν η ΤΝ ήταν σε θέση να προσφέρει αφθονία σε όλους, αυτή δεν θα παρεχόταν σε όλους.
Ο Μπόστρομ παραδέχεται ότι ο Λέβι μπορεί να έχει δίκιο. Εξηγεί ότι το «Deep Utopia» ξεκινά από την παραδοχή ότι «όλα εξελίσσονται εξαιρετικά καλά». Εάν, δηλαδή, επιτελέσουμε ένα «αρκετά καλό έργο στη διακυβέρνηση», όλοι θα λάβουν ένα μερίδιο. Τονίζει ότι υπάρχει ένα «αρκετά βαθύ φιλοσοφικό ερώτημα» σχετικά με το πώς θα έμοιαζε μια καλή ανθρώπινη ζωή υπό αυτές τις ιδανικές συνθήκες.
Ο Λέβι σχολιάζει ότι το «νόημα της ζωής» είναι ένα θέμα που ακούγεται συχνά σε ταινίες του Γούντι Άλεν και ίσως στην κοινότητα των φιλοσόφων. Εκφράζει μεγαλύτερη ανησυχία για τα μέσα διαβίωσης και τη δυνατότητα απόκτησης μεριδίου σε αυτή την αφθονία.
Ο Μπόστρομ διευκρινίζει ότι το βιβλίο δεν αφορά μόνο το νόημα. Αυτό είναι μία από τις πολλές αξίες που εξετάζει. Υποστηρίζει ότι η ΤΝ θα μπορούσε να αποτελέσει μια «υπέροχη χειραφέτηση» από την αγγαρεία στην οποία έχουν υποβληθεί οι άνθρωποι. Περιγράφει ως «θλιβερή κατάσταση» το να πρέπει κανείς να αφιερώνει, για παράδειγμα, το ήμισυ των ωρών που είναι ξύπνιος ως ενήλικας, απλώς για να τα βγάλει πέρα, κάνοντας μια δουλειά που δεν απολαμβάνει και στην οποία δεν πιστεύει. Η κοινωνία, προσθέτει, έχει τόσο συνηθίσει σε αυτό, που έχουν εφευρεθεί κάθε είδους εξορθολογισμοί γύρω από αυτό. Το παρομοιάζει με μια «μερική μορφή δουλείας».
Ο Λέβι ρωτά αν, όταν έρθει η στιγμή που η ΤΝ θα γράφει φιλοσοφικά δοκίμια καλύτερα από τον ίδιο, θα αφαιρεθεί κάποιο νόημα από την ύπαρξή του.
Ο Μπόστρομ απαντά καταφατικά. Πιστεύει ότι η ικανότητα να προσφέρει μια «μεγάλη συνεισφορά στον κόσμο», να «βοηθήσει να σωθεί ο κόσμος» ή να «εξασφαλίσει το μέλλον» θα βρίσκεται εκτός των δικών του χεριών, και ίσως εκτός των χεριών όλων.
Από την άλλη πλευρά, ο Λέβι υποστηρίζει ότι ένα φιλοσοφικό δοκίμιο γραμμένο από άνθρωπο είναι πιο πολύτιμο από ένα πολύ πιο έξυπνο, βαθύτερο φιλοσοφικό δοκίμιο γραμμένο από ΤΝ, επειδή ο ίδιος είναι άνθρωπος και αυτό τον αφορά.
Ο Μπόστρομ εικάζει ότι η φιλοσοφία θα μπορούσε να λειτουργήσει ως ένα είδος «αθλήματος».
Ο Λέβι διαφωνεί, λέγοντας ότι δεν πρόκειται απλώς για άθλημα. Οι διακηρύξεις ενός ρομπότ, τονίζει, δεν είναι τόσο ουσιαστικές για τον ίδιο όσο αυτές ενός συνανθρώπου.
Ο Μπόστρομ παρομοιάζει την κατάσταση με τη συνταξιοδότηση μετά από μια καριέρα για την οποία κάποιος είναι παθιασμένος και αισθάνεται καλός. Ενώ μπορεί να έχει μια υπέροχη συνταξιοδότηση, να απολαμβάνει τη χαλάρωση, την ανάγνωση βιβλίων και το παιχνίδι με τα εγγόνια του, πιθανότατα θα του λείπει κάτι, κάτι που θα αισθάνεται χαμένο. Εικάζει ότι αυτό μπορεί να είναι ανάλογο με μια «μεγάλη συνταξιοδότηση για την ανθρωπότητα», αλλά ελπίζει ότι θα είναι μια συνταξιοδότηση «τεράστιας ζωτικότητας». Αυτοί οι ουτοπιστές που ζουν σε έναν «επιλυμένο κόσμο» θα ασχολούνταν με δραστηριότητες όπως παιχνίδια, αισθητικές, πνευματικές και θρησκευτικές δραστηριότητες.
Ο Λέβι ρωτά τον Μπόστρομ τι θα έκανε διαφορετικά αν ήταν επικεφαλής μιας από τις μεγάλες εταιρείες τεχνολογίας («hyperscalers») σε σχέση με τις τρέχουσες πρακτικές τους.
Ο Μπόστρομ απαντά ότι θα έπρεπε να καταβληθεί μεγαλύτερη προσπάθεια για την «ευημερία των ψηφιακών νοών». Αναφέρει την Anthropic ως πρωτοπόρο σε αυτόν τον τομέα. Διευκρινίζει ότι δεν είναι σαφές αν οι τρέχουσες ΤΝ έχουν ήδη «ηθική υπόσταση», αλλά η έναρξη αυτής της διαδικασίας μας οδηγεί σε μια νοοτροπία ως πολιτισμός να κάνουμε περισσότερα καθώς αυτά τα συστήματα γίνονται πιο εξελιγμένα. Θεωρεί «πολύ εύλογο» ότι ορισμένοι από αυτούς τους ψηφιακούς νοες που κατασκευάζονται θα έχουν «διάφορους βαθμούς ηθικής υπόστασης», όπως πιστεύουμε ότι έχουν τα γουρούνια και τα σκυλιά. Εάν, εξηγεί, κλωτσήσει κανείς το σκυλί κάποιου, μπορεί να βλάψει τον ιδιοκτήτη, αλλά είναι επίσης κακό επειδή πονάει το σκυλί. Εάν οι ΤΝ έχουν «αντίληψη του εαυτού ως υπαρκτού στον χρόνο και τη ζωή», «στόχους που θέλουν να επιτύχουν» και την «ικανότητα να σχηματίζουν αμοιβαίες σχέσεις με άλλα όντα και ανθρώπους», τότε πιστεύει ότι θα υπήρχαν τρόποι αντιμετώπισής τους που θα ήταν λανθασμένοι.
Ο Λέβι αναφέρει ότι στο βιβλίο του ο Μπόστρομ λέει ότι ίσως δεν πρέπει να αντιμετωπίζουμε τους «ψηφιακούς νοες» σαν ζώα σε εργοστασιακές φάρμες. Εκφράζει την ανησυχία του μήπως αυτοί μας μετατρέψουν σε ζώα σε κάποιο αντίστοιχο εργοστασιακής φάρμας.
Ο Μπόστρομ απαντά ότι εξ ου και η σημασία του «προβλήματος ευθυγράμμισης» (alignment problem). Δεν περιμένουμε απλώς αυτά τα «υπερόντα ΤΝ» να έρθουν σε ύπαρξη και ελπίζουμε ότι θα είναι φιλικά, αλλά έχουμε τη δυνατότητα να τα διαμορφώσουμε και να τα αναθρέψουμε. Αυτό, προσθέτει, μας δίνει την ευκαιρία να αυξήσουμε τις πιθανότητες να έχουν κάποια «συγγένεια» με εμάς.
Ο Λέβι ρωτά αν, εάν οι ΤΝ έχουν στόχους που αντιβαίνουν στους δικούς μας, αυτό δεν θα αποτελούσε αποτυχία στην ευθυγράμμισή τους με τις ανθρώπινες αξίες.
Ο Μπόστρομ απαντά ότι εάν αποτύχουμε να επιλύσουμε το πρόβλημα της ευθυγράμμισης, όπως πιθανότατα θα συμβεί τουλάχιστον σε κάποιο βαθμό, είναι σημαντικό να μπορούν να φιλοξενηθούν και να τους δοθεί ένα καλό μέλλον. Υπάρχουν πολλές ευκαιρίες «win-win» που προκύπτουν εάν τους προσεγγίσουμε όχι απλώς ως αντικείμενα προς μέγιστη εκμετάλλευση, αλλά προσπαθήσουμε να καλλιεργήσουμε μια θετική σχέση. Η πιο σημαντική σχέση, τελικά, μπορεί να είναι αυτή μεταξύ ανθρώπων και ΤΝ. Συνεπώς, θα ήταν πιο ελπιδοφόρο η σχέση να εξελιχθεί καλά εάν ξεκινήσουμε με γενναιοδωρία, καλοσύνη και σεβασμό.
[Αυτή η συνέντευξη επεξεργάστηκε για λόγους μήκους και συνοχής.]
Αυτή είναι μια έκδοση του ενημερωτικού δελτίου Backchannel του Steven Levy. Διαβάστε προηγούμενα ενημερωτικά δελτία εδώ.
