Νωρίτερα αυτόν τον μήνα, το περιοδικό WIRED δημοσίευσε ένα απόσπασμα από το πολυσυζητημένο νέο βιβλίο του Στιβ Ρόζενμπαουμ, με τίτλο «Το Μέλλον της Αλήθειας» (The Future of Truth), το οποίο εξετάζει τον τρόπο με τον οποίο η τεχνητή νοημοσύνη διαστρεβλώνει την αντίληψη της πραγματικότητας των ανθρώπων. Λίγο αργότερα, οι New York Times ανέφεραν ότι το εν λόγω βιβλίο περιείχε περισσότερες από μισή ντουζίνα επινοημένες ή λανθασμένα αποδοθείσες παραθέσεις. Σε επίσημη δήλωσή του, ο κ. Ρόζενμπαουμ, ο οποίος κατέχει μεταπτυχιακό τίτλο σπουδών στην «αλήθεια» από το Πανεπιστήμιο της Νέας Υόρκης, παραδέχθηκε ότι είχε συμπεριλάβει κατά λάθος «μια χούφτα» «εσφαλμένα αποδοθέντων ή συνθετικών» αποσπασμάτων. Κατά μια ειρωνική τροπή, η αξιοπιστία ενός βιβλίου που πραγματεύεται τον αντίκτυπο της τεχνητής νοημοσύνης στην αλήθεια βρέθηκε πλέον υπό έντονο έλεγχο λόγω του τρόπου με τον οποίο η ίδια η τεχνητή νοημοσύνη είχε επηρεάσει τη συγγραφή του.
Εσωτερική Επανεξέταση της WIRED και η Πολιτική της για την Τεχνητή Νοημοσύνη
Μετά τη δημοσίευση του άρθρου των Times, το WIRED επανεξέτασε το δικό του απόσπασμα, το οποίο είχε έκταση 1.450 λέξεων. Η ομάδα ελέγχου γεγονότων είχε ήδη εξετάσει το κείμενο πριν από την αρχική του δημοσίευση, και επιβεβαιώθηκε εκ νέου ότι οι παραθέσεις και τα γεγονότα που περιείχε ήταν ακριβή. Ωστόσο, η συντακτική πολιτική του WIRED σχετικά με τη γενεσιουργό τεχνητή νοημοσύνη απαγορεύει τη δημοσίευση κειμένων που έχουν δημιουργηθεί ή επεξεργαστεί από τεχνητή νοημοσύνη. Ένα μήνυμα ηλεκτρονικού ταχυδρομείου από αναγνώστη, το οποίο χαρακτήριζε το απόσπασμα ως «κατάφωρα γραμμένο από τεχνητή νοημοσύνη», δημιούργησε περαιτέρω ερωτήματα σχετικά με την έκταση της χρήσης εργαλείων τεχνητής νοημοσύνης από τον κ. Ρόζενμπαουμ. Στην ενότητα των ευχαριστιών του βιβλίου «Το Μέλλον της Αλήθειας», ο κ. Ρόζενμπαουμ αναφέρει ότι τα εργαλεία ChatGPT, Claude, NaturalReaders, ProWritingAid και Grammarly τον βοήθησαν να «βελτιώσει και να τελειοποιήσει την παρουσίαση των ιδεών [του]». Τι ακριβώς σήμαινε αυτό;
Εργαλεία Ανίχνευσης Τεχνητής Νοημοσύνης και η Αρχική Ανταπόκριση του Συγγραφέα
Το WIRED υπέβαλε το απόσπασμα σε διάφορες υπηρεσίες ανίχνευσης τεχνητής νοημοσύνης, συμπεριλαμβανομένων των Pangram, GPTZero και ZeroGPT. Κάθε μία από αυτές τις υπηρεσίες υπέδειξε ότι το κείμενο ήταν είτε πιθανώς δημιουργημένο από τεχνητή νοημοσύνη, είτε δημιουργημένο από τεχνητή νοημοσύνη με υψηλό βαθμό βεβαιότητας. Ωστόσο, τα εργαλεία ανίχνευσης τεχνητής νοημοσύνης είναι επιρρεπή σε σφάλματα και μπορούν να επιστρέψουν ανακριβείς ενδείξεις. Για τον λόγο αυτό, ο επικεφαλής έρευνας του WIRED απέστειλε απευθείας μήνυμα ηλεκτρονικού ταχυδρομείου στον κ. Ρόζενμπαουμ, ζητώντας του να διευκρινίσει εάν και πώς είχε χρησιμοποιήσει τεχνητή νοημοσύνη για τη συγγραφή του αποσπάσματος.
Η απάντησή του ήταν η εξής: «Όπως πολλοί συγγραφείς που εργάζονται σήμερα, χρησιμοποίησα εργαλεία τεχνητής νοημοσύνης κατά τη διάρκεια τμημάτων της διαδικασίας έρευνας και συντακτικής ανάπτυξης για το βιβλίο, συμπεριλαμβανομένης της ανακάλυψης πηγών, του καταιγισμού ιδεών, της δομικής ανατροφοδότησης και της γλωσσικής βελτίωσης». Ωστόσο, τόνισε ότι «οι ιδέες, η αναφορά, τα επιχειρήματα και η τελική συγγραφή είναι δικά μου, και το απόσπασμα του WIRED δεν δημιουργήθηκε ως έχει». Προέτρεψε τους συντάκτες του WIRED να επιδείξουν προσοχή στην εμπιστοσύνη τους στα εργαλεία ανίχνευσης τεχνητής νοημοσύνης, σημειώνοντας ότι μπορεί να προκύψουν ψευδώς θετικά αποτελέσματα.
Εκτενέστερη Έρευνα και τα Ευρήματα του Pangram για το Βιβλίο
Σε αυτό το σημείο, οι ανώτεροι συντάκτες του WIRED μου ζήτησαν να διερευνήσω το περιστατικό, καθώς καλύπτω τις διάφορες μορφές «AI slop» (απορριμμάτων τεχνητής νοημοσύνης) από το 2024. Το πρώτο μου βήμα ήταν να υποβάλω ολόκληρο το κείμενο του βιβλίου στο εργαλείο ανίχνευσης του Pangram. (Ενώ όλα τα εργαλεία ανίχνευσης τεχνητής νοημοσύνης έχουν περιορισμούς και μπορούν να εμφανίσουν ψευδώς θετικά αποτελέσματα, το Pangram θεωρείται επί του παρόντος το χρυσό πρότυπο.) Το αποτέλεσμα έδειξε ότι το βιβλίο φαινόταν να είναι 53 τοις εκατό δημιουργημένο από τεχνητή νοημοσύνη, με ένα επιπλέον 9 τοις εκατό να καταγράφεται ως πιθανώς υποβοηθούμενο από τεχνητή νοημοσύνη.
Επικοινώνησα τηλεφωνικά με τον κ. Ρόζενμπαουμ και του ζήτησα μια πιο λεπτομερή περιγραφή του τρόπου με τον οποίο είχε χρησιμοποιήσει τεχνητή νοημοσύνη για τη συγγραφή του βιβλίου, καθώς και αν αμφισβητούσε τα αποτελέσματα του Pangram. (Η BenBella Books, της οποίας το εκδοτικό αποτύπωμα δημοσίευσε το «Το Μέλλον της Αλήθειας», δεν απάντησε σε αιτήματα για σχολιασμό. Ο εκδοτικός οίκος Simon & Schuster, ο οποίος διανέμει τα βιβλία της BenBella στις Ηνωμένες Πολιτείες, αρνήθηκε να σχολιάσει.)
Άρνηση του Ρόζενμπαουμ να Συζητήσει τα Αποτελέσματα Ανίχνευσης
Ο κ. Ρόζενμπαουμ δεν θέλησε να σχολιάσει την ακρίβεια των αποτελεσμάτων του Pangram. Στην πραγματικότητα, δεν ήθελε καθόλου να μιλήσει γι’ αυτά. «Δεν συμμετέχω σε αυτή τη συζήτηση», δήλωσε. «Είναι σαν να λέτε, χτυπάτε τη γυναίκα σας; Είναι μία από εκείνες τις κατηγορίες στις οποίες δεν υπάρχει απάντηση».
Η Επεξηγηματική Προσέγγιση του Ρόζενμπαουμ στη Συγγραφική Διαδικασία
Αντ’ αυτού, προσφέρθηκε να εξηγήσει γενικά τη συντακτική του διαδικασία. Αναφέρει ότι στην αρχή της συγγραφικής διαδικασίας, χρησιμοποίησε εργαλεία τεχνητής νοημοσύνης ως μηχανές αναζήτησης, βοηθώντας τον να ανακαλύψει πληροφορίες για τα πιο ερευνητικά τμήματα του βιβλίου. Για να καταδείξει πώς θα μπορούσε να το κάνει αυτό, ζήτησε από το ChatGPT να τον περιγράψει, και στη συνέχεια διάβασε τα αποτελέσματα δυνατά. Η αναζήτηση της τεχνητής νοημοσύνης περιέγραψε λίγο πολύ με ακρίβεια ορισμένες από τις προηγούμενες ιστορίες μου, συμπεριλαμβανομένης της εργασίας μου σε «ιστοσελίδες ζόμπι μέσων ενημέρωσης» που δημιουργούνται από τεχνητή νοημοσύνη.
Αποφυγή Άμεσης Απάντησης για τη Χρήση Τεχνητής Νοημοσύνης σε Κείμενα
Όταν τον ρώτησα να απαντήσει απευθείας εάν είχε χρησιμοποιήσει τεχνητή νοημοσύνη για να γράψει ή να επεξεργαστεί οποιαδήποτε από τις παραγράφους του βιβλίου, έδωσε μια μακροσκελή απάντηση. «Όχι, δεν είναι έτσι που γράφεις. Η απάντηση είναι, παίρνεις υλικό—έτσι, για παράδειγμα, την απάντηση της Κέιτ που μόλις έλαβα, αν έγραφα για εσάς, τι θα έκανα; Θα την έπαιρνα και θα την επικολλήσω στα Έγγραφα Google και μετά θα έγραφα γύρω της και θα την επεξεργαζόμουν λίγο; Θα χρησιμοποιούσα τις λέξεις ‘ιστοσελίδες ζόμπι μέσων ενημέρωσης’ σε εισαγωγικά; Ίσως. Αλλά δεν θα έλεγα, ωραία, αυτό απάντησε στην ερώτησή μου για τη συγγραφή για την Κέιτ, θα το βάλω στο έγγραφό μου και θα το στείλω στον εκδότη μου».
«Αλλά θα το αντιγράφατε και θα το επικολλάτε, και μετά θα το επεξεργαζόσασταν;» ρώτησα.
«Πιθανώς», απάντησε.
«Το κάνατε αυτό σε αυτό το βιβλίο;»
«Δεν θυμάμαι. Ψάχνετε για ένα αδιάσειστο στοιχείο, και δεν υπάρχει».
Η Ανησυχία των Συγγραφέων και η Υποτιθέμενη Χρήση Τεχνητής Νοημοσύνης στη Δημοσιογραφία
Ο κ. Ρόζενμπαουμ δήλωσε ότι οι συγγραφείς που «ξυπνούν το πρωί θέλοντας να έχουν ιδέες» «ζουν τώρα με φόβο, και αυτό δεν είναι υγιές για τη δημοκρατία». Πριν προλάβω να ρωτήσω τι ακριβώς σήμαινε αυτό, συνέχισε: «Μίλησα με έναν άλλο συγγραφέα που κυριολεκτικά έχει ένα βιβλίο που θα κυκλοφορήσει και θα πάει στον εκδότη σε ένα μήνα, και είναι τρομοκρατημένη».
Ρώτησα αν αυτό οφειλόταν στο ότι χρησιμοποίησε τεχνητή νοημοσύνη στη διαδικασία συγγραφής του βιβλίου.
«Φυσικά. Το λέτε αυτό με κατηγορητικό τόνο, σαν να χρησιμοποίησε ένα εργαλείο εξαπάτησης». Ανέφερε μια έκθεση που τοποθετεί την υιοθέτηση της τεχνητής νοημοσύνης μεταξύ των δημοσιογράφων στο 82 τοις εκατό. Είπε ότι η πολιτική γενεσιουργού τεχνητής νοημοσύνης του WIRED είναι περιοριστική και υπέθεσε ότι οι συγγραφείς μας πιθανότατα χρησιμοποιούν τεχνητή νοημοσύνη κρυφά.
Η Αταλάντευτη Δέσμευση του Ρόζενμπαουμ στην Τεχνητή Νοημοσύνη
Επέμεινε στη δική του προσωπική δέσμευση στην τεχνητή νοημοσύνη, σημειώνοντας ότι εξακολουθεί να τη χρησιμοποιεί καθημερινά. «Αν ο μόνος τρόπος για να μην καταλήξω ποτέ ξανά σε λάθος είναι να σταματήσω κυριολεκτικά να χρησιμοποιώ την τεχνητή νοημοσύνη, αυτό απλά δεν είναι ρεαλιστικό. Αν η απάντηση είναι να σταματήσω να γράφω, αυτό δεν είναι εκτός του πεδίου των δυνατοτήτων».
Τον ρώτησα αν θα προτιμούσε να σταματήσει να γράφει παρά να σταματήσει να χρησιμοποιεί τεχνητή νοημοσύνη στη συγγραφική του διαδικασία. «Ναι», απάντησε.
Διχασμένες Απόψεις για την Τεχνητή Νοημοσύνη: Προβλήματα και Αναγκαιότητα
Ο κ. Ρόζενμπαουμ ταλαντεύτηκε μεταξύ της αναγνώρισης ότι η χρήση τεχνητής νοημοσύνης θα μπορούσε να προκαλέσει προβλήματα («Δεν καταλαβαίνω γιατί είναι δική μου δουλειά να παίζω το παιχνίδι “whack-a-mole” με μια εταιρεία πολλών δισεκατομμυρίων δολαρίων που ενσωματώνει ψευδαισθήσεις στη ροή της ως επιχειρηματική πρακτική») και της επανειλημμένης επιμονής ότι η τεχνητή νοημοσύνη είναι απαραίτητη, χαρακτηρίζοντάς την τον καλύτερο συγγραφικό συνεργάτη που είχε ποτέ.
Η Ειρωνική Επιβεβαίωση της Θέσης του Βιβλίου και η Αμφισβήτηση της Αξιοπιστίας
Ταυτόχρονα, είχε αποδείξει τη θέση του βιβλίου του – η τεχνητή νοημοσύνη προκαλούσε, σαφώς, ρήξεις σχετικά με το τι είναι αυθεντικό και τι όχι – ενώ υπονόμευε την αξιοπιστία του.
Αμφιβολίες για την Ακρίβεια και την Ποιότητα: Η Αντίδραση του Ρόζενμπαουμ
Όταν είπα στον κ. Ρόζενμπαουμ ότι ο τρόπος που χρησιμοποιούσε την τεχνητή νοημοσύνη με έκανε να αμφιβάλλω για την ακρίβεια και τη συνολική ποιότητα του βιβλίου, ανέφερε ξανά τη μελέτη σχετικά με την υιοθέτηση της τεχνητής νοημοσύνης από τους δημοσιογράφους. «Αν το 82 τοις εκατό των δημοσιογράφων χρησιμοποιούν τεχνητή νοημοσύνη καθημερινά, τότε αυτό που λέτε είναι ότι τώρα έχετε άγχος για την ακρίβεια και την αξιοπιστία ουσιαστικά όλων όσων υπάρχουν στο τρέχον οικοσύστημα των μέσων ενημέρωσης», είπε.
Λοιπόν, ναι. Καλύπτω την άνοδο των «AI slop» στο διαδίκτυο εδώ και χρόνια. Είναι διάχυτο. Ο σκεπτικισμός είναι λογικός. Αλλά η μελέτη που επικαλέστηκε ο κ. Ρόζενμπαουμ, από την εταιρεία λογισμικού δημοσίων σχέσεων MuckRack, περιλαμβάνει τη μεταγραφή με τεχνητή νοημοσύνη και την αναζήτηση πληροφοριών με το ChatGPT ως χρήση τεχνητής νοημοσύνης, κάτι που διαφέρει ουσιαστικά από την κρυφή ενσωμάτωση προτάσεων που δημιουργούνται από τεχνητή νοημοσύνη σε ένα προσχέδιο.
Διευκρινίσεις για τη Μελέτη της MuckRack σχετικά με τη Χρήση Τεχνητής Νοημοσύνης από Δημοσιογράφους
Όταν ζήτησα από τη MuckRack μια πιο λεπτομερή ανάλυση του τρόπου με τον οποίο διαπίστωσε ότι οι δημοσιογράφοι χρησιμοποιούσαν τεχνητή νοημοσύνη, η εταιρεία σημείωσε ότι μόνο το ένα τέταρτο των συγγραφέων που ρωτήθηκαν είχαν χρησιμοποιήσει εργαλεία τεχνητής νοημοσύνης για βοήθεια στη συγγραφή. Η πλειονότητα των συγγραφέων δεν βρίσκεται σε αυτό το σημείο. Τουλάχιστον όχι ακόμα.
Εξελισσόμενα Πρότυπα Χρήσης Τεχνητής Νοημοσύνης και η Προοπτική του Μέλλοντος
Οι γραμμές σχετικά με την κατάλληλη χρήση της τεχνητής νοημοσύνης χαράσσονται συνεχώς, σβήνονται και ξαναχαράσσονται. Χρησιμοποιώ ένα εργαλείο τεχνητής νοημοσύνης για μεταγραφή· έχω χρησιμοποιήσει επίσης το Claude για τη δημιουργία αιτημάτων βάσει του Νόμου περί Ελευθερίας της Πληροφορίας. Ορισμένοι συγγραφείς που αντιτίθενται στην τεχνητή νοημοσύνη θα έλεγαν ότι αυτές οι χρήσεις είναι λανθασμένες. Ο κ. Ρόζενμπαουμ είναι ένας κατά συρροή επιχειρηματίας των μέσων ενημέρωσης. Ήταν προνοητικός ως προς το πόσο σημαντικά θα ήταν το ψηφιακό βίντεο και το περιεχόμενο που δημιουργείται από χρήστες στο διαδίκτυο. Είναι πιθανό ο τρόπος λειτουργίας του να γίνει κάποια μέρα ο κανόνας.
Αυξανόμενη Αποδοχή της Τεχνητής Νοημοσύνης στα Μέσα Ενημέρωσης
Οι απόψεις σχετικά με την τεχνητή νοημοσύνη στα μέσα ενημέρωσης ήδη κλίνουν προς την αυξημένη αποδοχή. Νωρίτερα φέτος, το WIRED συνομίλησε με δημοσιογράφους τεχνολογίας που αγκαλιάζουν ανοιχτά την τεχνητή νοημοσύνη για να γράφουν και να επεξεργάζονται ιστορίες. Ο ανεξάρτητος δημοσιογράφος Άλεξ Χιθ δίνει τις σημειώσεις του και άλλα έγγραφα σε έναν πράκτορα τεχνητής νοημοσύνης, ο οποίος δημιουργεί το πρώτο του προσχέδιο. Ορισμένα μέσα ενημέρωσης είναι πλήρως ενσωματωμένα: η Fortune, για παράδειγμα, ενθαρρύνει ενεργά έναν από τους δημοσιογράφους της να συγγράφει ιστορίες με chatbots, και η Business Insider επιτρέπει στους συγγραφείς της να χρησιμοποιούν εργαλεία όπως το ChatGPT σε προσχέδια ιστοριών. Μια δεκαετία από τώρα, τα ειδησεογραφικά γραφεία που επιμένουν ότι οι ανθρώπινοι συγγραφείς κάνουν όλη τη συγγραφή μπορεί να φαίνονται τόσο γραφικά όσο η παράδοση ενός περιοδικού σε έντυπη μορφή.
Αντίσταση και Αντιδράσεις στην Τεχνητή Νοημοσύνη στον Εκδοτικό Κόσμο
Προς το παρόν, υπάρχει ακόμα κάποια αντίσταση. Φέτος, ο εκδοτικός οίκος Hachette ακύρωσε τα σχέδια να κυκλοφορήσει ένα μυθιστόρημα στις Ηνωμένες Πολιτείες αφού το Pangram υπέδειξε ότι ήταν σε μεγάλο βαθμό δημιουργημένο από τεχνητή νοημοσύνη, ακόμη και μετά την επεξεργασία του από τεχνητή νοημοσύνη. Οι New York Times διέκοψαν τους δεσμούς με έναν ελεύθερο επαγγελματία για χρήση τεχνητής νοημοσύνης. Και πρόσφατα, μια θύελλα κριτικής ξέσπασε αφού ένα λογοτεχνικό περιοδικό δημοσίευσε διηγήματα που οι κριτικοί πιστεύουν ότι φάνηκαν να είναι δημιουργημένα από τεχνητή νοημοσύνη.
Αναθεώρηση των Συντακτικών Οδηγιών της WIRED και η Ανάκληση του Αποσπάσματος
Το WIRED, επίσης, βρισκόταν ήδη σε μια βαθιά διαδικασία αναθεώρησης των συντακτικών του οδηγιών σχετικά με την τεχνητή νοημοσύνη. Μια πτυχή που θα παραμείνει η ίδια είναι ότι το δημοσιευμένο έργο δεν μπορεί να είναι γραμμένο με τεχνητή νοημοσύνη. Δεδομένης της αβεβαιότητας γύρω από τη διαδικασία του κ. Ρόζενμπαουμ, το απόσπασμα ανακλήθηκε από το απόγευμα της Παρασκευής.
Πηγή: wired.com
