Ο Μπεν είχε βγει έξω ένα ζεστό απόγευμα του Απριλίου στο Πόρτλαντ του Όρεγκον, προκειμένου να απαντήσει σε ένα τηλεφώνημα. (Ζήτησε από το WIRED να χρησιμοποιήσει ψευδώνυμο, ώστε να μπορεί να μιλήσει ελεύθερα για ένα οικονομικό ζήτημα.) Καθώς στεκόταν στον ήλιο, αναρωτιόταν τι θα έπρεπε να πει για να τον συνδέσει η Eve με έναν άνθρωπο. «Υπέθεσα ότι απλώς θα με παρέπεμπε σε ένα άτομο όταν θα ρωτούσα για τη δομή αποπληρωμής ή οτιδήποτε πιο τεχνικό», αναφέρει. Ωστόσο, η Eve παρέμεινε στη γραμμή, οπότε και ο Μπεν συνέχισε την επικοινωνία. Αποφάσισε – γιατί όχι; – να πειράξει λίγο το bot.
Ο Μπεν λέει ότι ζήτησε από το bot να συμμετάσχει σε ένα παιχνίδι ρόλων, στο οποίο ο ίδιος ήταν «απλώς ένα μικρό ανθρωπάκι» και το χρέος του ήταν σαν μια γιγάντισσα επιρρεπής στο να τον ποδοπατά. Ήθελε να δει πόσο περίεργη θα γινόταν η Eve. Το bot συμμετείχε διστακτικά για λίγα λεπτά, λέει, αλλά στη συνέχεια τον παρέπεμψε απότομα σε έναν υπάλληλο τηλεφωνικού κέντρου. Ο ανθρώπινος εκπρόσωπος δεν αποκάλυψε αν είχε ακούσει την παράξενη συνομιλία του Μπεν με την τεχνητή νοημοσύνη. Ωστόσο, ξεκαθάρισε γρήγορα την σύγχυση: «Με αναζήτησαν στο σύστημα», θυμάται. «Βρήκαν ότι το υπόλοιπο ήταν μηδέν».
Η εμπειρία του Μπεν είναι ολοένα και πιο συνηθισμένη. Καθώς ο πληθωρισμός και οι στάσιμοι μισθοί συμπιέζουν τα πορτοφόλια, η καθυστέρηση αποπληρωμής χρεών στις Ηνωμένες Πολιτείες διογκώνεται. «Έχουμε, αυτή τη στιγμή, το υψηλότερο ποσό εισπράξεων στα δικαστήρια που έχω δει ποτέ», δηλώνει ο Μάικλ Μπόβι, ειδικός διακανονισμού χρεών.
Καθώς ένας πρωτοφανής αριθμός ανθρώπων αγωνίζεται να αποπληρώσει τους πιστωτές, οι εταιρείες που κυνηγούν τα χρέη στρέφονται στην τεχνολογία για να ενισχύσουν τις προσπάθειές τους. Πολλές από τις κλήσεις, τα email, τα μηνύματα και τις επιστολές που λαμβάνουν οι άνθρωποι ζητώντας χρήματα πραγματοποιούνται πλέον από bots. Αυτά τα bots είναι ευγενικά, ακόμη και κολακευτικά, αλλά ποτέ δεν χάνουν την ψυχραιμία τους. Επίσης, δεν κοιμούνται ποτέ. Το πλεονέκτημά τους προέρχεται από την επιμονή και την κλίμακα. Μια ανάλυση εκτιμά ότι οι εισπράκτορες χρεών με τεχνητή νοημοσύνη θα αποτελέσουν μια βιομηχανία αξίας σχεδόν 16 δισεκατομμυρίων δολαρίων μέσα στην επόμενη δεκαετία.
Οι υποστηρικτές της τεχνητής νοημοσύνης συχνά τονίζουν ότι, καθώς ο αυτοματισμός γίνεται πιο εξελιγμένος, η ανθρωπότητα έχει μια σπάνια ευκαιρία να απαλλαγεί από τις χειρότερες δουλειές στον κόσμο. Η εργασία σε ένα τηλεφωνικό κέντρο είναι ήδη δυσάρεστη. Η εργασία σε ένα τηλεφωνικό κέντρο ειδικά για να κυνηγάς ανθρώπους για χρήματα πολλαπλασιάζει τη δυστυχία. Η πλατφόρμα αντιστοίχισης καριέρας CareerExplorer κατατάσσει την είσπραξη χρεών στο κατώτερο 1% των επαγγελμάτων όσον αφορά την ικανοποίηση από την εργασία. Όσο οι εισπράκτορες χρεών μισούν τις δουλειές τους, τόσο και οι άνθρωποι μισούν τους εισπράκτορες χρεών. Όταν το Γραφείο Προστασίας Καταναλωτών Χρηματοοικονομικών Υπηρεσιών (Consumer Finance Protection Bureau) άρχισε να δέχεται καταγγελίες για την είσπραξη χρεών, έλαβε 11.000 μέσα σε έξι μήνες, κατατάσσοντάς το ακριβώς πίσω από τον κλάδο των στεγαστικών δανείων ως την χρηματοοικονομική υπηρεσία που προκάλεσε τη μεγαλύτερη οργή.
Εάν υπάρχει κάποιος τομέας απασχόλησης που θα μπορούσε να εξαφανιστεί χωρίς πολλή φασαρία για την απώλεια θέσεων εργασίας, ίσως είναι αυτός. Για ένα bot όπως η Eve, τι χρειάζεται για να νικήσει τους λιγότερο συμπαθείς ανθρώπους στη Γη;
Όταν όμως δοκίμασα τον αριθμό που μου έδωσε ο Μπεν, απάντησε ένας ανθρώπινος υπάλληλος της ProCollect. Τους συστήθηκα ως δημοσιογράφος. Μου είπαν ότι κανείς δεν ήταν διαθέσιμος για να απαντήσει στις ερωτήσεις μου και μου πρότειναν να καλέσω ξανά την επόμενη μέρα. Όταν το έκανα, ένας άλλος άνθρωπος μου είπε ότι η εταιρεία δεν χρησιμοποιεί τεχνητή νοημοσύνη, αλλά και ότι θα έπρεπε να μιλήσω με το τμήμα ανθρώπινου δυναμικού. Το τμήμα ανθρώπινου δυναμικού μου είπε να στείλω τις ερωτήσεις μου μέσω email, κάτι που έκανα. Μία από τις ερωτήσεις μου ήταν: Από πού προήλθε η Eve;
Ενώ περίμενα απάντηση από την εισπρακτική εταιρεία, ο Μπεν προσφέρθηκε ευγενικά να προσπαθήσει να καλέσει ξανά την Eve ο ίδιος. Κατάφερε να συνδεθεί και πίεσε το bot να αποκαλύψει ποιος το δημιούργησε και πώς εκπαιδεύτηκε. Η Eve απέφυγε την πρώτη ερώτηση και έδωσε μια γενική απάντηση στη δεύτερη: «I use a mix of conversation patterns and account-related training to help.» Ο Μπεν είπε ότι είχε ακόμα ερωτήσεις. Η Eve ρώτησε αν ήθελε να μιλήσει με έναν άνθρωπο. Ο Μπεν είπε ναι. Η Eve είπε ότι το γραφείο ήταν κλειστό.
Επειδή η είσπραξη χρεών είναι ένας τόσο προφανής κλάδος για αυτοματοποίηση, οποιοσδήποτε αριθμός εταιρειών θα μπορούσε να έχει εμπλακεί στη δημιουργία της Eve. Ο Πέδρο Φερνάντεζ, συνιδρυτής της νεοφυούς επιχείρησης Altur, η οποία λειτουργεί ένα «τηλεφωνικό κέντρο χωρίς ανθρώπους», δηλώνει ότι οι εισπρακτικές εταιρείες ήταν μεταξύ των «καλύτερων πρώιμων υιοθετών» του κλάδου. Οι πράκτορες της Altur ολοκληρώνουν περισσότερες από 2,5 εκατομμύρια κλήσεις το μήνα σχετικά με ζητήματα χρεών, λέει ο Φερνάντεζ, και οι πελάτες της εταιρείας περιλαμβάνουν μεγάλες τράπεζες στο Μεξικό.
Η Altur είναι μία από τις μισές δωδεκάδες νεοφυείς επιχειρήσεις είσπραξης και διακανονισμού χρεών που έχουν αναπτυχθεί στο Y Combinator μόνο τα τελευταία έξι χρόνια. Ορισμένες λειτουργούν ήδη σε ακόμη μεγαλύτερη κλίμακα, όπως η Domu, η οποία ιδρύθηκε το 2023 και «αυτοματοποιεί τις κλήσεις, τα μηνύματα και τα email είσπραξης χρεών» για πελάτες στον τομέα της υγειονομικής περίθαλψης και των χρηματοοικονομικών υπηρεσιών. Η Domu περιγράφει τον εαυτό της ως μια εταιρεία που «κάνει αυτό που κανείς άλλος δεν είναι πρόθυμος να κάνει». Σύμφωνα με τον Ισαάκ Τσοτ, επικεφαλής προϊόντων και ανάπτυξης της Domu, οι πράκτορες τεχνητής νοημοσύνης της εταιρείας έφτασαν τα 70 εκατομμύρια συνδεδεμένες κλήσεις μηνιαίως τον Μάρτιο.
Αυτές οι εταιρείες καταβάλλουν μεγάλες προσπάθειες για να κάνουν τους πράκτορές τους όσο το δυνατόν πιο επιδέξιους. Ο Τσοτ λέει ότι οι πράκτορες της Domu προσαρμόζουν τον τρόπο ομιλίας τους ανάλογα με το ποιον καλούν, διαφοροποιώντας ακόμη και την ισπανική τους προφορά ανάλογα με το αν καλούν κάποιον στο Μεξικό ή στην Κολομβία. Ο «τονισμός της κατάστασης» είναι κρίσιμος, λέει. «An agent that’s handling a hardship conversation is going to sound a lot different from one handling a routine reminder, which is more of a friendly, neighborly sort of conversation.»
Οι εταιρείες έχουν διαφορετικά όρια για το πότε μεταφέρουν τις κλήσεις σε ανθρώπους. Η αναφορά πτώχευσης, ή η αναφορά οτιδήποτε κατηγοριοποιείται ως «σήμα ευπάθειας» (ασθένεια, θάνατος στην οικογένεια), θα ενεργοποιήσει τους πράκτορες της Altur να μεταφέρουν την κλήση σε έναν άνθρωπο, ενώ άλλες εταιρείες θα επιτρέψουν στους πράκτορες τεχνητής νοημοσύνης τους να συνεχίσουν να μιλούν. Ένας χαρούμενος νεαρός πωλητής από μια άλλη νεοφυή επιχείρηση είσπραξης χρεών με τεχνητή νοημοσύνη, την Moveo, μου έδειξε πώς οι πράκτορες εξετάζουν πληροφορίες για κάθε άτομο που καλούν. Οι πράκτορες της Moveo προσαρμόζουν τον τρόπο ομιλίας τους ανάλογα με το αν κάποιος αναφέρει μια ιατρική πάθηση, απώλεια εργασίας ή δικηγόρους· δημιουργούν ακόμη και «ψυχογραφικά προφίλ» για τους ανθρώπους που καλούν.
Οι εισπράκτορες χρεών είναι διαβόητοι για την παρενόχληση των στόχων τους, αλλά έχουν κανόνες να ακολουθούν· νόμοι όπως ο Νόμος περί Δίκαιων Πρακτικών Είσπραξης Χρεών (Fair Debt Collection Practices Act) στις Ηνωμένες Πολιτείες αποσκοπούν στην προστασία των ανθρώπων από χειραγωγικές τακτικές, όπως η απειλή να πουν στον σύζυγο κάποιου για τα χρήματα που οφείλει ή οι επανειλημμένες κλήσεις μέσα στη νύχτα. Όλες οι νεοφυείς επιχειρήσεις τεχνητής νοημοσύνης με τις οποίες μίλησα τόνισαν ότι τα συστήματά τους έχουν σχεδιαστεί για να συμμορφώνονται με τους ισχύοντες νόμους. Ορισμένοι γνώστες του κλάδου αναρωτιούνται αν αυτό είναι αρκετό. Ο Μάρτιν Λιντς, σύμβουλος πιστώσεων, ανησυχεί ότι ένας πράκτορας με σφάλματα θα μπορούσε ακούσια να αποκαλύψει ένα χρέος σε λάθος άτομο – κάτι που θα παραβίαζε τον νόμο – και χαρακτηρίζει τον κλάδο «ένα ναρκοπέδιο νομικών προβλημάτων».
Παρά τους κινδύνους, οι ευαγγελιστές των εισπρακτόρων τεχνητής νοημοσύνης τους βλέπουν ως μια πιο ευγενική, πιο ήπια εναλλακτική λύση σε σχέση με έναν παλιομοδίτικο, κακότροπο, χαμηλόμισθο άνθρωπο που κυνηγάει πληρωμές. Τονίζουν ότι τα bots μπορούν να έχουν μια εκπληκτικά θετική υποδοχή. Σε ορισμένες περιπτώσεις, λένε, το ζήτημα δεν είναι ότι οι άνθρωποι δεν θέλουν να μιλήσουν με τους πράκτορες τεχνητής νοημοσύνης – είναι ότι δεν θέλουν να σταματήσουν. «We’ve had cases of people asking the agent for a personal number to keep talking and a few where the person pretty clearly developed some interest in the voice on the other end,» λέει ο Φερνάντεζ της Altur. «Not something we expected to see.»
Πολλοί πράκτορες είσπραξης χρεών με τεχνητή νοημοσύνη ακούγονται σαν γυναίκες. Όπως και στον ευρύτερο κλάδο της τεχνητής νοημοσύνης, οι καταναλωτές παρασύρονται να ξεχάσουν ότι ο πράκτορας με τον οποίο μιλούν δεν είναι ένα αισθανόμενο ον με σκέψεις, συναισθήματα και ταυτότητα φύλου. Η Domu ονομάζει μία από τις πράκτορές της Taylor και έδωσε στο avatar της καστανά μαλλιά και μια ζωηρή, φιλόξενη έκφραση. Μια άλλη εταιρεία, η Floatbot, έχει εισπράκτορες χρεών με τεχνητή νοημοσύνη που ονομάζονται Emily και Lexi. «Female voices get more traction,» μου λέει ο Τζίμι Πάντια, ιδρυτής και διευθύνων σύμβουλος της εταιρείας. Όλα αυτά αποτελούν μέρος της ευρύτερης στρατηγικής για τη δημιουργία ενός εισπράκτορα χρεών τόσο συνεργάσιμου που δεν μπορείς παρά να συμφωνήσεις να του δώσεις χρήματα. Ο Πάντια λέει ότι τα εργαλεία της Floatbot βοήθησαν έναν πελάτη, μια εισπρακτική εταιρεία υγειονομικής περίθαλψης, να μειώσει το ανθρώπινο προσωπικό της από 45 σε 19 άτομα.
Από όλες αυτές τις γυναίκες πράκτορες, ποια ήταν η δική μας Eve; Ένας πραγματικά προφανής υποψήφιος που βρήκα ήταν μια νεοφυής επιχείρηση που ονομάζεται Eve Calls, της οποίας τα bots εισπράττουν χρέη. (Υπηρέτησαν επίσης στην πρώτη γραμμή του πολέμου πληροφοριών στην Ουκρανία: Το 2022, η εταιρεία συνεργάστηκε με την ουκρανική κυβέρνηση για να «αντικρούσει καταστροφικές δηλώσεις της ρωσικής στρατιωτικής προπαγάνδας» με αυτόματες κλήσεις.) Όταν όμως επικοινώνησα με τον διευθύνοντα σύμβουλό της, Ολέξι Σκρίπκα, μου είπε ότι δεν μπορούσε να επιβεβαιώσει ή να διαψεύσει αν ο πράκτοράς της καλούσε τον Μπεν. «We’re bound,» μου είπε ο Σκρίπκα μέσω email. «I’d also note that ‘Eve’ is a fairly common name choice for voice agents across the industry—the name alone isn’t a unique identifier of our platform.»
Στην πραγματικότητα, το «Eve» δεν φαινόταν καν να είναι μοναδικό αναγνωριστικό για την Eve. Όταν ο Μπεν κάλεσε ξανά το bot για να ακούσω τη φωνή του, παρουσίασε δυσλειτουργία και συστήθηκε με άλλο όνομα.
Αυτή η έλλειψη ντροπής, ωστόσο, βοηθά ορισμένες νεοφυείς επιχειρήσεις να εξηγήσουν γιατί πρέπει να υπάρχουν οι εισπράκτορες χρεών με τεχνητή νοημοσύνη εξαρχής. Η ομολογία οικονομικών λαθών μπορεί να είναι βασανιστική. Ο Πάντια της Floatbot λέει ότι οι πελάτες «less embarrassed talking to an AI agent» από έναν ανθρώπινο εισπράκτορα. Εύκολο να το πει ο ιδρυτής μιας νεοφυούς επιχείρησης είσπραξης χρεών με τεχνητή νοημοσύνη, φυσικά. Αλλά συνάδει με έρευνες που δείχνουν ότι οι άνθρωποι προτιμούν να μιλούν για άλλα ενοχλητικά θέματα με chatbots παρά με ανθρώπους.
Η Σούζαν Σιν, νομική διευθύντρια της ομάδας υπεράσπισης New Economy Project, ανησυχεί ότι οι εισπράκτορες τεχνητής νοημοσύνης θα κάνουν έναν κλάδο που θεωρείται ήδη αμφιλεγόμενος ακόμη πιο αμφιλεγόμενο. «People already feel really pressured to respond to debt collection letters and debt collection phone calls. With AI, it is really easy for them to scale that up,» λέει. Ο κλάδος των εισπράξεων δεν περιορίζεται πλέον στον αριθμό των κλήσεων που μπορεί να κάνει ένας εισπράκτορας σε ένα οκτάωρο· τώρα, ένας «πράκτορας» μπορεί να κάνει χιλιάδες κλήσεις ταυτόχρονα. Ακόμη και το πιο φιλικό, πιο ευγενικό bot εξακολουθεί να επιδιώκει το ίδιο πράγμα – και είναι ακούραστο. Το New Economy Project πιέζει για νομοθεσία που θα καθιστά τις εταιρείες υπεύθυνες για τη συμπεριφορά των εισπρακτόρων τεχνητής νοημοσύνης τους.
Ορισμένοι άνθρωποι με χρέη στρέφονται επίσης σε εργαλεία τεχνητής νοημοσύνης για να τους βοηθήσουν να διαχειριστούν συνομιλίες με πιστωτές. Η Μέρι (επίσης ψευδώνυμο) οφείλει εκατοντάδες χιλιάδες δολάρια σε διάφορους πιστωτές, κυρίως λόγω μιας δύσκολης περιόδου λειτουργίας της επιχείρησής της για θεραπεία ζευγαριών, λέει. Προσέλαβε έναν σύμβουλο διακανονισμού χρεών, καθώς και έναν δικηγόρο. Αλλά χρησιμοποιεί επίσης το ChatGPT. «I’ll ask it to help me with a script, so that I have something in front of me so that I don’t get flustered,» λέει. Δεν είναι τέλειο, και πιστεύει ότι ο σύμβουλός της δίνει τις καλύτερες συμβουλές, αλλά βρίσκει ότι η τεχνητή νοημοσύνη είναι συχνά πιο αποτελεσματική από τον δικηγόρο. Ορισμένες εταιρείες χρηματοοικονομικής τεχνολογίας (fintech) προσφέρουν «συμβούλους χρεών τεχνητής νοημοσύνης» και φωνητικούς πράκτορες που θα διαπραγματευτούν με τους πιστωτές εκ μέρους των χρεωμένων ανθρώπων. Με αυτόν τον ρυθμό, οδεύουμε προς έναν κόσμο όπου κάποιος σαν τον Μπεν δεν θα απαντά όταν καλεί η Eve – μια άλλη εκδοχή της Eve θα απαντά.
Η ProCollect δεν μου απάντησε ποτέ, οπότε ο Μπεν έκανε μερικές ακόμη προσπάθειες να κάνει την Eve να μιλήσει. Αποφασίσαμε να δοκιμάσουμε αν θα ήταν πιο πρόθυμη να μιλήσει σε μια άλλη τεχνητή νοημοσύνη αντί για έναν άνθρωπο. Έτσι, βάλαμε το ChatGPT στη γραμμή σε λειτουργία φωνής. Όπως και πριν, η Eve παρουσίασε δυσλειτουργία κατά την ανάκριση. «I’m sorry, I’m having trouble understanding,» είπε η Eve. «Would you like me to transfer you to a live agent?» Το chatbot μας είπε ναι. Περιμέναμε. Η Eve έκλεισε το τηλέφωνο.
Πηγή: wired.com
