Το κείμενο, ωστόσο, δεν έχει σχεδιαστεί ως μια αποκλειστικά τεχνολογική ανάλυση. Ο Πάπας Λέων ΙΔ΄ εντάσσει το ζήτημα της Τεχνητής Νοημοσύνης (ΤΝ) στην παράδοση της κοινωνικής διδασκαλίας της Καθολικής Εκκλησίας και επικαλείται άμεσα – επικαιροποιώντας την ταυτόχρονα – την εγκύκλιο «Rerum Novarum» του Πάπα Λέοντα ΙΓ΄ (η οποία δημοσιεύθηκε στις 15 Μαΐου 1891), κατά το έτος της 135ης επετείου της. Η συγκεκριμένη εγκύκλιος είχε εξετάσει το ζήτημα της εργασίας στο απόγειο της βιομηχανικής επανάστασης, στα τέλη του 19ου αιώνα.
Εάν οι «res novae» (τα νέα πράγματα) εκείνης της εποχής ήταν τα εργοστάσια, η εργασία και ο βιομηχανικός καπιταλισμός, σήμερα τα νέα ζητήματα περιστρέφονται γύρω από τις ψηφιακές πλατφόρμες, τους αλγόριθμους, τα δεδομένα και τα συστήματα αυτοματισμού, τα οποία αναδιαμορφώνουν ριζικά την εξουσία, την οικονομία και τις κοινωνικές σχέσεις. Για τον λόγο αυτό, η εγκύκλιος δεν παρουσιάζεται ως ένα τεχνικό κείμενο σχετικά με την καινοτομία, αλλά μάλλον ως μια προσπάθεια ερμηνείας του ψηφιακού μετασχηματισμού υπό το πρίσμα της ανθρώπινης αξιοπρέπειας και του κοινού καλού. Η τεχνολογία, όπως γράφει ο Πάπας, δεν είναι κακή αφ’ εαυτής· αντιθέτως, αποτελεί μέρος της ανθρώπινης ιστορίας και δημιουργικότητας. Ωστόσο, η τρέχουσα κατάσταση διαφέρει τόσο σε κλίμακα όσο και σε βάθος: «Ποτέ η ανθρωπότητα δεν είχε τόση δύναμη πάνω στον εαυτό της», παρατηρεί το κείμενο, περιγράφοντας τεχνολογίες που πλέον διαμορφώνουν τις διαδικασίες λήψης αποφάσεων, τη συλλογική φαντασία και την κοινωνική ζωή με έναν ολοένα και πιο διεισδυτικό τρόπο.
Από αυτό το σημείο επέλεξε να ξεκινήσει ο Ρόμπερτ Φράνσις Πρεβόστ: από τη διαρκώς αυξανόμενη συγκέντρωση εξουσίας που ασκείται μέσω συστημάτων τα οποία είναι ολοένα και πιο αδιαφανή, αλλά ταυτόχρονα ολοένα και πιο καθοριστικά, και από το ερώτημα που διατρέχει ολόκληρη την εγκύκλιο: Τι απομένει από την ανθρώπινη αξιοπρέπεια, την προστασία της αλήθειας, την εργασία, την κοινωνική δικαιοσύνη και την ειρήνη, όταν οι αποφάσεις μεταφέρονται στην αλγοριθμική λογική;
Αφοπλίζοντας την Τεχνολογία: Η Πρόληψη της Κυριαρχίας της Τεχνητής Νοημοσύνης στην Ανθρώπινη Ύπαρξη
Στην εγκύκλιο υπάρχει μια έκφραση που καθίσταται κλειδί για την ερμηνεία ολόκληρου του σεναρίου: «αφοπλίζοντας την τεχνολογία». Η σημασία της απέχει πολύ από οποιαδήποτε προσπάθεια επιβράδυνσης της ανάπτυξης της τεχνητής νοημοσύνης ή άρνησης του δυνητικά μετασχηματιστικού της αντίκτυπου προς το καλό. Για τον Ρόμπερτ Φράνσις Πρεβόστ, ο αφοπλισμός της ΤΝ σημαίνει την πρόληψη του να μετατραπεί σε μια μορφή εξουσίας ικανή να κυριαρχήσει στην ανθρώπινη ύπαρξη.
Για τον Πάπα Λέοντα ΙΔ΄, το ζήτημα δεν είναι η ίδια η τεχνολογία, αλλά η οργάνωση και η εφαρμογή της. Η ΤΝ, γράφει ο Πάπας, αποτελεί σήμερα μέρος ενός παγκόσμιου αγώνα για τον «αλγόριθμο με την υψηλότερη απόδοση» και το «μεγαλύτερο κέντρο δεδομένων», όπου το ανταγωνιστικό πλεονέκτημα αποκτά και γεωπολιτική διάσταση. Σε αυτό το πλαίσιο, λίγοι παίκτες συγκεντρώνουν την ψηφιακή υποδομή, τα δεδομένα και την υπολογιστική ικανότητα, γεγονός που επηρεάζει την πληροφόρηση, την οικονομία, ακόμη και τη δημοκρατία.
Ο αφοπλισμός σημαίνει τη διάρρηξη αυτής της εξίσωσης μεταξύ τεχνικής ισχύος και δικαιώματος διακυβέρνησης. «Όπως συμβαίνει με κάθε σημαντική τεχνολογική καμπή, η ΤΝ τείνει πάνω απ’ όλα να αυξάνει την ισχύ εκείνων που ήδη διαθέτουν οικονομικούς πόρους και πρόσβαση σε δεδομένα», εξηγεί ο Ποντίφικας.
Με σαφείς όρους, η εγκύκλιος δηλώνει ότι δεν αρκεί απλώς η ρύθμιση της τεχνολογίας: Πρέπει να αφαιρεθεί από τα μονοπώλια, να καταστεί διαφανής και ανοιχτή σε αμφισβήτηση – δηλαδή, να γίνει «βιώσιμη» για όλους. Η ΤΝ πρέπει να αποτραπεί από το να γίνει ένα όργανο οικονομικής, πολιτικής ή στρατιωτικής κυριαρχίας. Αυτό δεν είναι μια ηθική μεταφορά: Είναι μια έκκληση για την αποτροπή της λογικής του ανταγωνισμού από το να μετατρέψει μια κοινή υποδομή σε ένα σύστημα ελέγχου.
Η Αλήθεια Εντός των Συστημάτων που Επιλέγουν την Πραγματικότητα: Η Επίδραση της Τεχνολογίας στη Συλλογική Αντίληψη
Εάν η τεχνολογία συγκεντρώνει εξουσία, μία από τις πρώτες συγκεκριμένες επιπτώσεις αφορά τον τρόπο με τον οποίο διαμορφώνεται η συλλογική αλήθεια. Η εγκύκλιος εξετάζει το ζήτημα της παραπληροφόρησης, αλλά με έναν αποφασιστικά βαθύτερο τρόπο, διότι η αντιληπτή πραγματικότητα, ή μάλλον η εμπειρία, φιλτράρεται ολοένα και περισσότερο από συστήματα που επιλέγουν τι να δείξουν και τι να αποκρύψουν.
Δεν πρόκειται απλώς για ψευδείς ειδήσεις ή ψευδές περιεχόμενο σε διάφορες μορφές. Το πρόβλημα είναι ότι οι πλατφόρμες και οι αλγόριθμοι επιλέγουν πληροφορίες με βάση κριτήρια μεγιστοποίησης της προσοχής και της εμπλοκής. Με άλλα λόγια, αυτό που γίνεται ορατό δεν είναι απαραίτητα αυτό που είναι πιο αληθινό, αλλά αυτό που λειτουργεί καλύτερα στην παραγωγή αντιδράσεων. Με αυτόν τον τρόπο, η αλήθεια δεν εξαφανίζεται, αλλά καθίσταται εξαρτημένη από αδιαφανή συστήματα που επηρεάζουν απόψεις, αντιλήψεις και συλλογικές επιλογές, χωρίς να είναι πάντα σαφές το πώς.
Αυτός είναι ο λόγος για τον οποίο η εγκύκλιος επιμένει σε μια πολύ συγκεκριμένη πολιτιστική και εκπαιδευτική ευθύνη: να εκπαιδεύσει ανθρώπους ικανούς να αναγνωρίζουν αυτούς τους μηχανισμούς και να μην αναθέτουν τη διαμόρφωση της δημόσιας κρίσης μόνο σε ψηφιακές υποδομές που ανταποκρίνονται σε λογικές αγοράς ή εξουσίας.
Η Εργασία ως Γραμμή Ρήξης: Η Αναδιαμόρφωση της Εργασιακής Πραγματικότητας από την Τεχνητή Νοημοσύνη
Η ίδια δυναμική διατρέχει τον κόσμο της εργασίας, και αποτελεί ένα από τα πιο συγκεκριμένα σημεία της εγκυκλίου. Η τεχνητή νοημοσύνη περιγράφεται όχι μόνο ως αυτοματοποίηση, αλλά ως μια δύναμη που μπορεί να επαναπροσδιορίσει ποιος εργάζεται, πώς εργάζεται και με ποια περιθώρια αυτονομίας.
Στο κείμενο, ο Πάπας αναφέρεται ρητά στον κίνδυνο μιας «κοινωνικής καταστροφής» που σχετίζεται με την τεχνολογική ανεργία, όταν η καινοτομία καθοδηγείται πρωτίστως από τη μείωση του κόστους και την αύξηση των κερδών. Σε αυτό το σενάριο, πολλές δραστηριότητες ενδέχεται να αντικατασταθούν ή να αδειάσουν από ανθρώπινο περιεχόμενο, με τους εργαζόμενους να περιορίζονται σε επαναλαμβανόμενες ή αυστηρά ελεγχόμενες λειτουργίες.
Η εγκύκλιος αναλύει επίσης λεπτομερώς νέες μορφές ελέγχου: την αυτοματοποιημένη επιτήρηση, τον κατακερματισμό των εργασιών και την απώλεια της αίσθησης αυτονομίας. Δεν είναι μόνο η απώλεια θέσεων εργασίας που προκαλεί ανησυχία, αλλά ο μετασχηματισμός της εργασίας σε κάτι λιγότερο ανθρώπινο, λιγότερο δημιουργικό και, επομένως, λιγότερο ελεύθερο.
Και εδώ επανεμφανίζεται η σύνδεση με την κοινωνική διδασκαλία της Εκκλησίας, η οποία επικαλείται από την αρχή του εγγράφου. Όπως ακριβώς η «Rerum Novarum» επιδίωξε να ερμηνεύσει τις επιπτώσεις της βιομηχανικής επανάστασης στις συγκεκριμένες ζωές των ανθρώπων, έτσι και η «Magnifica Humanitas» επιχειρεί να κάνει το ίδιο με την ψηφιακή επανάσταση. Σε αυτό το όραμα, η εργασία δεν είναι απλώς οικονομική παραγωγή ή μια απόδοση προς βελτιστοποίηση, αλλά ένας χώρος μέσω του οποίου το άτομο εκφράζει την αξιοπρέπεια, την ευθύνη και τη συμμετοχή στην κοινωνική ζωή.
Για τον λόγο αυτό, εάν η τεχνητή νοημοσύνη καταλήξει να ανάγει τον εργαζόμενο σε μια μετρήσιμη, ελέγξιμη και αντικαταστάσιμη λειτουργία, το πρόβλημα δεν είναι απλώς οικονομικό ή τεχνολογικό· καθίσταται ένα κοινωνικό, πολιτικό και βαθιά ανθρώπινο ζήτημα.
Ο Πόλεμος ως Αυτοματοποιημένος Χώρος Σύγκρουσης: Η Ηθική Διάσταση των Αποφάσεων Ζωής και Θανάτου
Η πιο ριζοσπαστική πτυχή του κειμένου αναδύεται όταν η τεχνολογία εισέρχεται στη διάσταση της σύγκρουσης. Ο Πάπας Λέων ΙΔ΄ αμφισβητεί ολόκληρη την αρχιτεκτονική της ιδέας του «δίκαιου πολέμου», την οποία θεωρεί ολοένα και πιο ανεπαρκή για να περιγράψει τη σύγχρονη πραγματικότητα. Όχι επειδή αρνείται το δικαίωμα στην αυτοάμυνα, αλλά επειδή η ίδια η φύση της σύγκρουσης αλλάζει.
Ο πόλεμος σήμερα είναι ήδη διαποτισμένος από αλγόριθμους, στρατηγική και την αντίληψη του εχθρού. Οι αλγόριθμοι δεν πολεμούν, αλλά επιτρέπουν μια νέα μορφή απόστασης στην οποία η λήψη αποφάσεων απομακρύνεται προοδευτικά από το ανθρώπινο σώμα και από την ανθρώπινη ευθύνη.
Αυτός είναι ο λόγος για τον οποίο η εγκύκλιος θέτει ένα σαφές όριο: Δεν είναι αποδεκτό να ανατίθενται θανατηφόρες ή μη αναστρέψιμες αποφάσεις σε τεχνητά συστήματα. Η ηθική ευθύνη δεν μπορεί να εκχωρηθεί, ούτε μπορεί να διαλυθεί σε αυτοματοποιημένες αλυσίδες. Σε αυτό το σημείο, η έννοια του «αφοπλισμού της τεχνολογίας» επιστρέφει και γίνεται μια συγκεκριμένη αρχή στην οποία τονίζεται η σημασία της αφαίρεσης της ικανότητας των μηχανών να εμπλέκονται στην απόφαση για τη ζωή και τον θάνατο.
Ένα Ανοιχτό Εργοτάξιο: Η Διαμόρφωση του Κόσμου από την Τεχνητή Νοημοσύνη και η Κρίσιμη Ερώτηση της Εξουσίας
Η τελική εικόνα της «Magnifica Humanitas» είναι αυτή ενός εργοταξίου. Όχι ενός κλειστού συστήματος ή ενός ήδη καθορισμένου μοντέλου, αλλά μιας διαδικασίας που βρίσκεται ακόμη υπό κατασκευή. Και μέσα σε αυτό το «εργοτάξιο» η τεχνολογία, η οικονομία, η πληροφόρηση και η σύγκρουση είναι αλληλένδετες. Όχι επειδή όλα είναι ίδια, αλλά επειδή όλα σήμερα συνδέονται εντός της ίδιας ψηφιακής υποδομής και των σχέσεων εξουσίας.
Εδώ καταλήγει το κύριο σημείο της εγκυκλίου: Το πρόβλημα δεν είναι η τεχνητή νοημοσύνη ως τεχνικό αντικείμενο, αλλά ο τύπος του κόσμου που συμβάλλει στην οικοδόμηση. Είναι ένας κόσμος στον οποίο το καθοριστικό ερώτημα δεν αφορά πλέον μόνο το τι μπορεί να κάνει η τεχνολογία, αλλά ποιος την ελέγχει, με ποια συμφέροντα και σύμφωνα με ποια ιδέα του ανθρώπινου όντος.
Αυτή η ιστορία δημοσιεύθηκε αρχικά στο WIRED Italia και έχει μεταφραστεί από τα ιταλικά.
