Η Επίδραση της Τεχνητής Νοημοσύνης στον Μετασχηματισμό της Διακυβέρνησης
Ανά μερικούς αιώνες, οι αλλαγές στον τρόπο διάδοσης των πληροφοριών αναδιαμορφώνουν τον τρόπο με τον οποίο οι κοινωνίες αυτοδιοικούνται. Η εφεύρεση της τυπογραφίας διέδωσε τον αλφαβητισμό στην καθομιλουμένη, συμβάλλοντας στην άνοδο της Μεταρρύθμισης και, τελικά, στην αντιπροσωπευτική διακυβέρνηση. Ο τηλέγραφος κατέστησε εφικτή τη διοίκηση εκτεταμένων εθνών, όπως οι Ηνωμένες Πολιτείες, επιταχύνοντας την ανάπτυξη του σύγχρονου γραφειοκρατικού κράτους. Τα μέσα μαζικής ενημέρωσης δημιούργησαν κοινά εθνικά ακροατήρια, τα οποία με τη σειρά τους τροφοδότησαν τη μαζική δημοκρατία.
Βρισκόμαστε πλέον στα αρχικά στάδια μιας παρόμοιας μεταβολής. Με ρυθμούς ταχύτερους από ό,τι πολλοί αντιλαμβάνονται, η Τεχνητή Νοημοσύνη (ΤΝ) αναδεικνύεται στην κύρια διεπαφή μέσω της οποίας διαμορφώνουμε πεποιθήσεις και συμμετέχουμε στη δημοκρατική αυτοδιοίκηση. Εάν αφεθεί ανεξέλεγκτη, αυτή η μετατόπιση θα μπορούσε να επιβαρύνει περαιτέρω τους ήδη εύθραυστους θεσμούς της Αμερικής. Ωστόσο, θα μπορούσε επίσης να συμβάλει στην αντιμετώπιση μακροχρόνιων προβλημάτων, όπως η υστέρηση στην πολιτική συμμετοχή και η εμβάθυνση της πόλωσης. Το τι θα συμβεί στη συνέχεια εξαρτάται από τις επιλογές σχεδιασμού που ήδη γίνονται, είτε το γνωρίζουμε είτε όχι.
Το Επιστημολογικό Επίπεδο: Διαμόρφωση Πεποιθήσεων μέσω της Τεχνητής Νοημοσύνης
Ας ξεκινήσουμε με αυτό που θα μπορούσε να ονομαστεί το επιστημολογικό επίπεδο – τον τρόπο με τον οποίο αποκτούμε γνώσεις. Οι άνθρωποι βασίζονται όλο και περισσότερο στην ΤΝ για να γνωρίζουν τι είναι αληθές, τι συμβαίνει και ποιον να εμπιστευτούν. Η αναζήτηση είναι ήδη σε μεγάλο βαθμό διαμεσολαβημένη από την ΤΝ. Η επόμενη γενιά βοηθών ΤΝ θα συνθέτει πληροφορίες, θα τις πλαισιώνει και θα τις παρουσιάζει με αυθεντία. Για έναν αυξανόμενο αριθμό ανθρώπων, η ερώτηση σε μια ΤΝ θα γίνει ο προεπιλεγμένος τρόπος για να διαμορφώσουν απόψεις για έναν υποψήφιο, μια πολιτική ή ένα δημόσιο πρόσωπο. Όποιος ελέγχει τι λένε αυτά τα μοντέλα αποκτά, συνεπώς, αυξανόμενη επιρροή σε ό,τι πιστεύουν οι άνθρωποι.
Οι Προσωπικοί Πράκτορες Τεχνητής Νοημοσύνης και η Επίδρασή τους στη Δράση των Πολιτών
Η τεχνολογία ανέκαθεν διαμόρφωνε τον τρόπο με τον οποίο οι πολίτες αλληλεπιδρούν με τις πληροφορίες. Ωστόσο, ένα νέο πρόβλημα θα ανακύψει σύντομα με τη μορφή προσωπικών πρακτόρων ΤΝ, οι οποίοι μπορούν να αλλάξουν όχι μόνο τον τρόπο με τον οποίο οι άνθρωποι λαμβάνουν πληροφορίες, αλλά και τον τρόπο με τον οποίο ενεργούν βάσει αυτών. Αυτά τα συστήματα θα διεξάγουν έρευνες, θα συντάσσουν επικοινωνίες, θα αναδεικνύουν σκοπούς και θα ασκούν πίεση εκ μέρους των χρηστών. Θα ενημερώνουν αποφάσεις όπως το πώς να ψηφίσουν σε ένα δημοψήφισμα, ποιες οργανώσεις αξίζει να υποστηριχθούν ή πώς να απαντήσουν σε μια κυβερνητική ειδοποίηση. Θα αρχίσουν, με ουσιαστικό τρόπο, να διαμεσολαβούν τη σχέση μεταξύ των ατόμων και των θεσμών που τους κυβερνούν.
Κίνδυνοι από Αλγορίθμους Εμπλοκής και Προσωπικούς Πράκτορες Τεχνητής Νοημοσύνης
Έχουμε ήδη δει με τα μέσα κοινωνικής δικτύωσης τι συμβαίνει όταν οι αλγόριθμοι βελτιστοποιούνται για την εμπλοκή έναντι της κατανόησης. Οι πλατφόρμες δεν χρειάζεται να έχουν μια ρητή πολιτική ατζέντα για να παράγουν πόλωση και ριζοσπαστικοποίηση. Ένας πράκτορας που γνωρίζει τις προτιμήσεις και τις ανησυχίες σας – ένας που έχει διαμορφωθεί για να σας κρατά αφοσιωμένους – ενέχει τους ίδιους κινδύνους. Και σε αυτή την περίπτωση, οι κίνδυνοι μπορεί να είναι ακόμη πιο δύσκολο να εντοπιστούν, επειδή ένας πράκτορας παρουσιάζεται ως ο συνήγορός σας. Μιλάει για εσάς, ενεργεί εκ μέρους σας και μπορεί να κερδίσει εμπιστοσύνη ακριβώς μέσω αυτής της οικειότητας.
Το Συλλογικό Επίπεδο: Αλληλεπίδραση Πρακτόρων Τεχνητής Νοημοσύνης και Ανθρώπων
Τώρα, ας διευρύνουμε την οπτική μας στο συλλογικό επίπεδο. Οι πράκτορες ΤΝ και οι άνθρωποι θα μπορούσαν σύντομα να συμμετέχουν στα ίδια φόρουμ, όπου μπορεί να είναι αδύνατο να τους ξεχωρίσουμε. Ακόμη και αν κάθε μεμονωμένος πράκτορας ΤΝ ήταν καλά σχεδιασμένος και ευθυγραμμισμένος με τα συμφέροντα του χρήστη του, οι αλληλεπιδράσεις εκατομμυρίων πρακτόρων θα μπορούσαν να παράγουν αποτελέσματα που κανένα άτομο δεν επιθυμούσε ή δεν επέλεξε. Pmc research δείχνει ότι πράκτορες που δεν εμφανίζουν ατομική προκατάληψη μπορούν παρόλα αυτά να δημιουργήσουν συλλογικές προκαταλήψεις σε μεγάλη κλίμακα. Και πέρα από το τι κάνουν οι πράκτορες ο ένας στον άλλο, υπάρχει και το τι κάνουν για τους χρήστες τους. Μια δημόσια σφαίρα στην οποία ο καθένας έχει έναν εξατομικευμένο πράκτορα προσαρμοσμένο στις υπάρχουσες απόψεις του δεν είναι, συνολικά, καθόλου δημόσια σφαίρα. Είναι μια συλλογή ιδιωτικών κόσμων, ο καθένας εσωτερικά συνεκτικός αλλά συλλογικά αφιλόξενος στο είδος της κοινής διαβούλευσης που απαιτεί η δημοκρατία.
Ο Θεμελιώδης Μετασχηματισμός της Ιδιότητας του Πολίτη
Συνολικά, αυτοί οι τρεις μετασχηματισμοί – στον τρόπο που γνωρίζουμε, στον τρόπο που ενεργούμε και στον τρόπο που συμμετέχουμε στη συλλογική διακυβέρνηση – συνιστούν μια θεμελιώδη αλλαγή στην υφή της ιδιότητας του πολίτη. Στο εγγύς μέλλον, οι άνθρωποι θα διαμορφώνουν τις πολιτικές τους απόψεις μέσω φίλτρων ΤΝ, θα ασκούν την πολιτική τους δράση μέσω πρακτόρων ΤΝ και θα συμμετέχουν σε θεσμούς και δημόσιες συζητήσεις που διαμορφώνονται οι ίδιοι από τέτοιους πράκτορες.
Η Ανετοιμότητα της Σύγχρονης Δημοκρατίας και η Ανάγκη για Σχεδιασμό
Η σημερινή δημοκρατία δεν είναι έτοιμη για αυτό. Οι θεσμοί μας σχεδιάστηκαν για έναν κόσμο όπου η εξουσία ασκούνταν ορατά, οι πληροφορίες ταξίδευαν αρκετά αργά ώστε να αμφισβητούνται, και η πραγματικότητα φαινόταν πιο κοινή, έστω και ατελώς. Όλα αυτά είχαν ήδη αρχίσει να φθείρονται πολύ πριν την εμφάνιση της γενετικής ΤΝ. Ωστόσο, αυτό δεν χρειάζεται να είναι μια ιστορία παρακμής. Η αποφυγή αυτού του αποτελέσματος απαιτεί να σχεδιάσουμε για κάτι καλύτερο.
Προτάσεις για το Επίπεδο Πληροφόρησης: Αλήθεια και Μείωση της Πόλωσης
Στο επίπεδο της πληροφόρησης, οι εταιρείες ΤΝ πρέπει να εντείνουν τις υφιστάμενες προσπάθειες για να διασφαλίσουν ότι οι παραγωγές των μοντέλων είναι αληθείς. Θα πρέπει επίσης να διερευνήσουν ορισμένα πολλά υποσχόμενα πρώιμα ευρήματα ότι τα μοντέλα ΤΝ μπορούν help reduce polarization. Μια πρόσφατη field evaluation των ελέγχων γεγονότων που δημιουργήθηκαν από ΤΝ στην πλατφόρμα X διαπίστωσε ότι άτομα με ποικίλες πολιτικές απόψεις θεώρησαν τις σημειώσεις που γράφτηκαν από ΤΝ πιο χρήσιμες από εκείνες που γράφτηκαν από ανθρώπους. Η εργασία δεν έχει ακόμη υποβληθεί σε αξιολόγηση από ομοτίμους, αλλά πρόκειται για ένα δυνητικά επαναστατικό εύρημα: ο έλεγχος γεγονότων με τη βοήθεια ΤΝ μπορεί να επιτύχει το είδος της διακομματικής αξιοπιστίας που έχει διαφύγει από τις περισσότερες χειροκίνητες ανθρώπινες προσπάθειες. Η μεγαλύτερη κατανόηση και διαφάνεια σχετικά με το πώς τα μοντέλα κάνουν αυτές τις δηλώσεις και ιεραρχούν τις πηγές στη διαδικασία θα μπορούσε να συμβάλει στην οικοδόμηση περαιτέρω δημόσιας εμπιστοσύνης.
Προτάσεις για το Επίπεδο των Πρακτόρων: Πιστοί Εκπρόσωποι των Χρηστών
Στο επίπεδο των πρακτόρων, χρειαζόμαστε τρόπους αξιολόγησης του κατά πόσον οι πράκτορες ΤΝ αντιπροσωπεύουν πιστά τους χρήστες τους. Ένας πράκτορας δεν πρέπει ποτέ να έχει τη δική του ατζέντα ή να παραποιεί τις απόψεις του χρήστη του – μια τεχνικά απαιτητική προϋπόθεση σε τομείς όπου οι χρήστες ενδέχεται να μην έχουν δηλώσει ρητά καμία προτίμηση. Ωστόσο, η πιστή εκπροσώπηση δεν μπορεί επίσης να γίνει ένα συμπλήρωμα σε μια υποκινούμενη λογική. Ένας πράκτορας που αρνείται να παρουσιάσει δυσάρεστες πληροφορίες, που προστατεύει τον χρήστη του από το να αμφισβητήσει ποτέ προηγούμενες πεποιθήσεις ή που αδυνατεί να προσαρμοστεί σε μια αλλαγή γνώμης, δεν ενεργεί προς το συμφέρον του ατόμου.
Προτάσεις για το Θεσμικό Επίπεδο: Αξιοποίηση της Τεχνητής Νοημοσύνης στη Διακυβέρνηση
Τέλος, σε θεσμικό επίπεδο, οι υπεύθυνοι χάραξης πολιτικής θα πρέπει να σπεύσουν να αξιοποιήσουν τις δυνατότητες της ΤΝ για να καταστήσουν τη διακυβέρνηση πιο ανταποκρινόμενη και νόμιμη. Αρκετές πολιτείες και τοπικές αρχές χρησιμοποιούν ήδη πλατφόρμες διαμεσολαβούμενες από ΤΝ για τη διεξαγωγή δημοκρατικής διαβούλευσης σε κλίμακα, βασιζόμενες σε research που δείχνει ότι οι διαμεσολαβητές ΤΝ μπορούν να βοηθήσουν τους πολίτες να βρουν κοινό έδαφος. Καθώς οι πράκτορες γίνονται όλο και πιο συνηθισμένοι συμμετέχοντες στις διαδικασίες δημόσιας διαβούλευσης – και υπάρχουν ήδη ενδείξεις ότι bots are skewing those processes – η επαλήθευση ταυτότητας τόσο για τους ανθρώπους όσο και για τους πρακτορικούς τους πληρεξούσιους πρέπει να ενσωματωθεί από την αρχή.
Ανάγκη για Νέα Δημοκρατική Υποδομή
Αυτό που απαιτείται είναι μια νέα γενιά δημοκρατικής υποδομής, τεχνολογικής και θεσμικής, χτισμένη για τον κόσμο που πραγματικά υπάρχει. Η αποτυχία να σχεδιάσουμε για δημοκρατικά αποτελέσματα, σε έναν τόσο σημαντικό τομέα, σημαίνει ότι σχεδιάζουμε για κάτι άλλο. Και η ιστορία της ανεξέλεγκτης εξουσίας δεν αφήνει πολλά περιθώρια αισιοδοξίας για το τι τείνει να είναι αυτό το “κάτι άλλο”.
Ο Andrew Sorota και ο Josh Hendler ηγούνται του έργου για την Τεχνητή Νοημοσύνη και τη δημοκρατία στο Γραφείο του Eric Schmidt.
