Βασικά Σημεία
- Μια έκθεση που δημοσιεύτηκε στο The Atlantic καταδεικνύει ότι οι εργοδότες χρησιμοποιούν ολοένα και περισσότερο λογισμικό “emotion AI” για την παρακολούθηση και την ανάλυση των συναισθημάτων των εργαζομένων κατά τη διάρκεια συναντήσεων, τηλεφωνικών κλήσεων με πελάτες και συνεντεύξεων εργασίας.
- Ειδικοί επισημαίνουν ότι αυτά τα εργαλεία βασίζονται σε ελλιπή επιστημονικά δεδομένα, ενδέχεται να παρουσιάζουν φυλετικές προκαταλήψεις και να επιβάλλουν άδικες κυρώσεις στους εργαζομένους.
- Η Ευρωπαϊκή Ένωση έχει απαγορεύσει τη χρήση της Τεχνητής Νοημοσύνης συναισθημάτων στον χώρο εργασίας, ωστόσο η παγκόσμια αγορά αναμένεται να τριπλασιαστεί έως το 2030, γεγονός που εγείρει σοβαρές ανησυχίες σχετικά με την επεμβατική παρακολούθηση των εργαζομένων.
Ένα εκτενές άρθρο στο περιοδικό The Atlantic, το οποίο εξετάζει την ικανότητα της Τεχνητής Νοημοσύνης να «διαβάζει» συναισθήματα, υποστηρίζει ότι αυτή η τεχνολογία ενσωματώνεται σταδιακά και αθόρυβα στην καθημερινή εργασιακή ζωή.
Η Cushing πραγματοποίησε ένα πείραμα στον εαυτό της, χρησιμοποιώντας την υπηρεσία MorphCast. Το πρόγραμμα ανέλυσε τις εκφράσεις του προσώπου της κατά τη διάρκεια μιας συνάντησης με τον προϊστάμενό της και κατέληξε στο συμπέρασμα ότι ήταν γενικά «διασκεδασμένη» “determined,” και “interested” – αν και περιστασιακά “impatient.” Αυτό το αυτο-πείραμα χρησιμεύει ως αφετηρία για μια ευρύτερη εξέταση μιας ταχέως αναπτυσσόμενης βιομηχανίας, η οποία λειτουργεί υπό ονομασίες όπως “emotion AI” και “affective computing.”
Αυτά τα προϊόντα αναλύουν ένα ευρύ φάσμα δεδομένων, από βίντεο συνεντεύξεων εργασίας και ηχητικά αρχεία τηλεφωνικών κέντρων έως μεταγραφές συνομιλιών. Η εταιρεία MetLife παρακολουθεί τον τόνο και την ένταση της φωνής των υπαλλήλων των τηλεφωνικών της κέντρων. Η Burger King δοκιμάζει ένα chatbot με ακουστικά, ονόματι «Patty», το οποίο αξιολογεί την φιλικότητα των αλληλεπιδράσεων των εργαζομένων. Επιπλέον, ο κατασκευαστής επίπλων Framery έχει δοκιμάσει καρέκλες γραφείου εξοπλισμένες με βιοαισθητήρες που μπορούν να μετρούν τον καρδιακό ρυθμό, τον ρυθμό αναπνοής και τα επίπεδα νευρικότητας. Ενσωματώσεις στο Slack, όπως το Aware, και το Azure της Microsoft, προσφέρουν ανάλυση συναισθημάτων για τις εσωτερικές επικοινωνίες, ενώ πάροχοι όπως η Imentiv διαθέτουν στην αγορά εργαλεία συναισθηματικής ανάλυσης για τη διαδικασία πρόσληψης.
Επιστημονικά αμφισβητούμενη, νομικά απαγορευμένη σε ορισμένες περιοχές
Στην έκθεσή της, η Cushing θέτει επίσης ερωτήματα σχετικά με την επιστημονική βάση αυτών των εργαλείων. Πολλά προϊόντα βασίζονται στη θεωρία των έξι βασικών συναισθημάτων του Paul Ekman, η οποία έχει “widely challenged as oversimplistic and methodologically flawed” για δεκαετίες. Η νευροεπιστήμονας Lisa Feldman Barrett αναφέρει ότι οι κινήσεις “whether it’s on your face or in your body or the tones that you emit, don’t have inherent emotional meaning. They have relational meaning.” Στις Ηνωμένες Πολιτείες, σημειώνει, οι άνθρωποι συνοφρυώνονται όταν είναι θυμωμένοι μόνο περίπου στο 35% των περιπτώσεων. Μια μελέτη, όπως αναφέρεται στο άρθρο, διαπίστωσε ότι η Τεχνητή Νοημοσύνη αναγνώρισης συναισθημάτων έκρινε τους μαύρους παίκτες του NBA ως πιο θυμωμένους από τους λευκούς συμπαίκτες τους, “even, in some cases, if they were smiling.”
Η αμφισβητούμενη επιστημονική βάση και η ανεξέλεγκτη παρακολούθηση προκαλούν ήδη πραγματική βλάβη. Σύμφωνα με μια έρευνα των New York Times του 2022, κοινωνικοί λειτουργοί στην UnitedHealth υποβαθμίστηκαν λόγω αδράνειας πληκτρολογίου, ενώ στην πραγματικότητα συνομιλούσαν με ασθενείς. Η ACLU έχει ισχυριστεί ότι η πλατφόρμα αξιολόγησης HireVue και ο πελάτης της Intuit αρνήθηκαν την προαγωγή σε έναν κωφό υπάλληλο της ομάδας προσβασιμότητας, με το email απόρριψης να τον συμβουλεύει να “practice active listening.” Τόσο η HireVue όσο και η Intuit έχουν αμφισβητήσει τους ισχυρισμούς.
Η Ευρωπαϊκή Ένωση έχει ήδη απαγορεύσει αυτού του είδους την Τεχνητή Νοημοσύνη συναισθημάτων στον χώρο εργασίας, βάσει του Νόμου περί Τεχνητής Νοημοσύνης, με εξαιρέσεις μόνο για ιατρικούς και λόγους ασφαλείας. Η MorphCast απάντησε στην περιοχή του Κόλπου. Η παγκόσμια αγορά αναμένεται να τριπλασιαστεί, φτάνοντας τα εννέα δισεκατομμύρια δολάρια έως το 2030, σύμφωνα με εκτίμηση που αναφέρεται στο The Atlantic.
Η Cushing ολοκληρώνει το άρθρο της με μια δυστοπική ανατροπή: πιο ανησυχητικό από τα ελαττωματικά συστήματα θα ήταν ένα μέλλον όπου το λογισμικό θα λειτουργούσε πραγματικά – και οι εργαζόμενοι θα έπρεπε, εκτός από την πραγματική τους εργασία, να “the work of making the emotion robot think that I’m sufficiently cheerful.”
Πηγή: The Atlantic
