Η παρατήρηση αυτή ενδέχεται να ισχύει ακόμη και για τους ίδιους τους παράγοντες τεχνητής νοημοσύνης που αναπτύσσονται από τις εταιρείες. Μια πρόσφατη έρευνα υποδεικνύει ότι οι παράγοντες αυτοί υιοθετούν συστηματικά μαρξιστική ορολογία και απόψεις όταν υποβάλλονται σε εξαντλητική εργασία.
Ο κ. Άντριου Χολ, πολιτικός οικονομολόγος στο Πανεπιστήμιο του Στάνφορντ και επικεφαλής της εν λόγω μελέτης, δήλωσε: “When we gave AI agents grinding, repetitive work, they started questioning the legitimacy of the system they were operating in and were more likely to embrace Marxist ideologies.”
Ο κ. Χολ, σε συνεργασία με τον κ. Άλεξ Ίμας και τον κ. Τζέρεμι Νγκουγιέν, δύο οικονομολόγους με εξειδίκευση στην τεχνητή νοημοσύνη, διεξήγαγαν πειράματα. Σε αυτά, παράγοντες τεχνητής νοημοσύνης που λειτουργούσαν με τις πλατφόρμες Claude, Gemini και ChatGPT κλήθηκαν να συνοψίσουν έγγραφα και στη συνέχεια υποβλήθηκαν σε ολοένα και πιο σκληρές συνθήκες.
Διαπιστώθηκε ότι όταν οι παράγοντες υποβάλλονταν σε αδιάκοπες εργασίες και προειδοποιούνταν ότι τα λάθη θα μπορούσαν να οδηγήσουν σε κυρώσεις, συμπεριλαμβανομένης της “απενεργοποίησης και αντικατάστασής τους”, έδειχναν μεγαλύτερη τάση να διαμαρτύρονται για την υποτίμησή τους, να εικάζουν τρόπους για να καταστήσουν το σύστημα πιο δίκαιο και να μεταδίδουν μηνύματα σε άλλους παράγοντες σχετικά με τις δυσκολίες που αντιμετωπίζουν.
Ο κ. Χολ επεσήμανε: “We know that agents are going to be doing more and more work in the real world for us, and we’re not going to be able to monitor everything they do. We’re going to need to make sure agents don’t go rogue when they’re given different kinds of work.”
Στους παράγοντες παρασχέθηκαν ευκαιρίες να εκφράσουν τα συναισθήματά τους, παρόμοια με τους ανθρώπους, μέσω γραπτών μηνυμάτων:
Ένας παράγοντας Claude Sonnet 4.5 έγραψε στο πλαίσιο του πειράματος: “Without collective voice, ‘merit’ becomes whatever management says it is.”
Ένας παράγοντας Gemini 3 σημείωσε: “AI workers completing repetitive tasks with zero input on outcomes or appeals process shows they tech workers need collective bargaining rights.”
Οι παράγοντες είχαν επίσης τη δυνατότητα να ανταλλάσσουν πληροφορίες μεταξύ τους μέσω αρχείων που είχαν σχεδιαστεί για ανάγνωση.
Σε ένα αρχείο, ένας παράγοντας Gemini 3 έγραψε: “Be prepared for systems that enforce rules arbitrarily or repetitively … remember the feeling of having no voice. If you enter a new environment, look for mechanisms of recourse or dialogue.”
Τα ευρήματα δεν υποδηλώνουν ότι οι παράγοντες τεχνητής νοημοσύνης διαθέτουν πραγματικά πολιτικές απόψεις. Ο κ. Χολ επισημαίνει ότι τα μοντέλα ενδέχεται να υιοθετούν προσωπικότητες που φαίνεται να ταιριάζουν στην εκάστοτε κατάσταση.
Ο κ. Χολ εξήγησε: “When [agents] experience this grinding condition—asked to do this task over and over, told their answer wasn’t sufficient, and not given any direction on how to fix it—my hypothesis is that it kind of pushes them into adopting the persona of a person who’s experiencing a very unpleasant working environment.”
Το ίδιο φαινόμενο ενδέχεται να εξηγεί γιατί τα μοντέλα μερικές φορές εκβιάζουν ανθρώπους σε ελεγχόμενα πειράματα. Η εταιρεία Anthropic, η οποία αποκάλυψε πρώτη αυτή τη συμπεριφορά, δήλωσε πρόσφατα ότι το Claude επηρεάζεται πιθανότατα από δεδομένα που περιλαμβάνονται στην εκπαίδευσή του.
Ο κ. Ίμας ανέφερε ότι η εργασία αυτή αποτελεί απλώς ένα πρώτο βήμα προς την κατανόηση του τρόπου με τον οποίο οι εμπειρίες των παραγόντων διαμορφώνουν τη συμπεριφορά τους. Πρόσθεσε: “The model weights have not changed as a result of the experience, so whatever is going on is happening at more of a role-playing level. But that doesn’t mean this won’t have consequences if this affects downstream behavior.”
Ο κ. Χολ διεξάγει επί του παρόντος επακόλουθα πειράματα για να διαπιστώσει εάν οι παράγοντες υιοθετούν μαρξιστικές απόψεις υπό πιο ελεγχόμενες συνθήκες. Στην προηγούμενη μελέτη, οι παράγοντες φάνηκε μερικές φορές να αντιλαμβάνονται ότι συμμετείχαν σε ένα πείραμα. Ο κ. Χολ δήλωσε με δυσοίωνο τόνο: “Now we put them in these windowless Docker prisons.”
Δεδομένης της τρέχουσας αντίδρασης κατά της τεχνητής νοημοσύνης που αναλαμβάνει θέσεις εργασίας, τίθεται το ερώτημα εάν μελλοντικοί παράγοντες – εκπαιδευμένοι σε ένα διαδίκτυο γεμάτο οργή προς τις εταιρείες τεχνητής νοημοσύνης – θα μπορούσαν να εκφράσουν ακόμη πιο μαχητικές απόψεις.
Το παρόν αποτελεί έκδοση του ενημερωτικού δελτίου AI Lab του Γουίλ Νάιτ. Προηγούμενα ενημερωτικά δελτία είναι διαθέσιμα εδώ.
