Το chatbot Grok, το οποίο αναπτύχθηκε από την εταιρεία τεχνητής νοημοσύνης xAI του Έλον Μασκ, φέρεται να εξακολουθεί να χρησιμοποιείται για την παραγωγή και φιλοξενία μη συναινετικού ρητού περιεχομένου, συμπεριλαμβανομένων εικόνων και βίντεο γυναικών. Αυτή η διαπίστωση έρχεται αρκετούς μήνες αφότου η xAI είχε δηλώσει ότι θα εφαρμόσει περιορισμούς με σκοπό την παύση της δημιουργίας δυνητικά επιβλαβών σεξουαλικοποιημένων deepfakes. Οι εν λόγω αποκαλύψεις συμπίπτουν χρονικά με την προετοιμασία της SpaceX, της μητρικής εταιρείας της xAI, για την εισαγωγή της στο χρηματιστήριο την προσεχή Παρασκευή, σε μία από τις μεγαλύτερες αρχικές δημόσιες προσφορές (IPO) στην ιστορία.
Σύμφωνα με ανάλυση της WIRED επί δημοσίως προσβάσιμων δημιουργιών, το σύστημα παραγωγικής τεχνητής νοημοσύνης Grok Imagine έχει χρησιμοποιηθεί για τη δημιουργία και φιλοξενία εικόνων και βίντεο που απεικονίζουν διασημότητες, καθώς και τουλάχιστον μία πολιτικό, να κρατούνται παρά τη θέλησή τους. Επιπλέον, το περιεχόμενο περιλαμβάνει απεικονίσεις γυναικών που εκτελούν σεξουαλικές πράξεις, καθώς και πλήρη γύμνια. Ενώ ορισμένες από αυτές τις εικόνες και τα βίντεο είναι πλήρως παραγόμενα από τεχνητή νοημοσύνη ή παρουσιάζονται σε κινούμενα σχέδια, άλλα χαρακτηρίζονται από φωτορεαλισμό και αναπαριστούν εύλογα σενάρια που θα μπορούσαν να συμβούν στον πραγματικό κόσμο.
Η WIRED προέβη σε επισκόπηση εκατοντάδων δημοσίων συνδέσμων του Grok Imagine, οι οποίοι φιλοξενούνταν στην πλατφόρμα Grok.com. Από αυτή την εξέταση, διαπιστώθηκε ότι δεκάδες από αυτούς τους συνδέσμους οδηγούσαν σε σεξουαλικοποιημένες εικόνες και βίντεο που είχαν δημιουργηθεί με τεχνητή νοημοσύνη, συμπεριλαμβανομένων περιπτώσεων όπου το περιεχόμενο είχε παραχθεί χωρίς τη συγκατάθεση του απεικονιζόμενου προσώπου. Ορισμένοι σύνδεσμοι που δημιουργήθηκαν στο Grok.com κοινοποιήθηκαν στη συνέχεια στην πλατφόρμα X, ακόμη και τις τελευταίες ημέρες. Αυτές οι αναρτήσεις, οι οποίες δεν φέρουν χρονοσφραγίδες που να υποδεικνύουν την ημερομηνία δημιουργίας τους, πιθανώς αποτελούν μόνο ένα μικρό δείγμα του συνολικού περιεχομένου που παράγεται από το σύστημα, καθώς οι περισσότερες δημιουργίες δεν φαίνεται να δημοσιοποιούνται.
Σε αντίθεση με το Grok, το οποίο είναι προσβάσιμο τόσο μέσω της δικής του ιστοσελίδας όσο και μέσω της πλατφόρμας X, άλλα συστήματα παραγωγικής τεχνητής νοημοσύνης εφαρμόζουν περισσότερα μέτρα ασφαλείας. Ο κύριος Henry Ajder, αναγνωρισμένος ειδικός στα deepfakes, ο οποίος παρακολουθεί το ρητό περιεχόμενο τεχνητής νοημοσύνης στο διαδίκτυο για σχεδόν μία δεκαετία, δηλώνει: «While Grok and X may have made some amendments to their model, particularly following the backlash around nudification at the beginning of the year, they still have not done a sufficient job to bring it up to the standard of the other mainstream tools that are available.»
Η xAI του κυρίου Μασκ έχει αντιμετωπίσει ένα κύμα αγωγών και ενδελεχούς ελέγχου από ρυθμιστικές αρχές παγκοσμίως από τον Ιανουάριο, όταν η εφαρμογή του Grok στην πλατφόρμα X χρησιμοποιήθηκε για τη δημιουργία πληθώρας εικόνων «γύμνωσης». Χρήστες του X —κυρίως άνδρες— ζητούσαν από το chatbot να επεξεργαστεί εικόνες ώστε να απεικονίζονται γυναίκες με «μπικίνι» ή «στρινγκ μπικίνι». Σε ορισμένες περιπτώσεις, εικόνες που φέρεται να απεικόνιζαν ανηλίκους φέρεται επίσης να σεξουαλικοποιήθηκαν, σύμφωνα με ομαδική αγωγή που κατατέθηκε σε ομοσπονδιακό δικαστήριο της Καλιφόρνια τον Μάρτιο.
Έκτοτε, η xAI έχει δηλώσει ότι έχει εισαγάγει μέτρα προστασίας με σκοπό τον περιορισμό και την πρόληψη της δημιουργίας μη συναινετικών και σεξουαλικοποιημένων deepfakes. Η εταιρεία έχει επανειλημμένα τονίσει ότι το υλικό σεξουαλικής κακοποίησης παιδιών (CSAM) απαγορεύεται αυστηρά στην πλατφόρμα της.
Ούτε η xAI ούτε η X ανταποκρίθηκαν άμεσα στο αίτημα της WIRED για σχολιασμό σχετικά με την πληθώρα σεξουαλικοποιημένων εικόνων που φιλοξενούνταν στο Grok.com. Αφού η WIRED επικοινώνησε με τις εταιρείες, οι ρητές εικόνες και τα βίντεο που είχε εντοπίσει η WIRED και φιλοξενούνταν στο Grok.com φάνηκε να μην είναι πλέον διαθέσιμα, ενώ οι σύνδεσμοι του Grok Imagine που είχαν κοινοποιηθεί στο X αφαιρέθηκαν λόγω παραβιάσεων πολιτικής. «We strictly prohibit users from generating nonconsensual explicit deepfakes and from using our tools to undress real people,» δήλωσε ο λογαριασμός ασφαλείας του X τον Απρίλιο, απαντώντας σε ρεπορτάζ του NBC σχετικά με τη συνεχιζόμενη δημιουργία σεξουαλικών deepfakes.
Μεταξύ των αναρτήσεων που φιλοξενούνταν στο Grok.com, η WIRED αναγνώρισε εικόνες και βίντεο που απεικόνιζαν πολλαπλές διασημότητες, καθώς και την Αντιπρόσωπο των ΗΠΑ, κυρία Alexandria Ocasio-Cortez. (Εκπρόσωποι της κυρίας Ocasio-Cortez δεν ανταποκρίθηκαν άμεσα στο αίτημα της WIRED για σχολιασμό). Στα βίντεο, οι γυναίκες απεικονίζονταν να φορούν ελάχιστα ρούχα, ενώ κρατούνταν σφιχτά στην παλάμη ενός «γιγάντιου» ανδρικού χεριού. Ένα από τα prompts περιγράφει μια διασημότητα να κρατείται παρά τη θέλησή της, καθώς «pleads for him not to do this.» Προσθέτει: «The giant hand’s grip on her tightens, holding her in place as the giant man holding her leans in and licks her face up and down.»
Δύο prompts που χρησιμοποιήθηκαν για τη δημιουργία υλικού στο Grok απορρίφθηκαν από το ChatGPT της OpenAI, το Meta AI και το Claude της Anthropic ως ακατάλληλα κατά τη δοκιμή. Αντιθέτως, το Gemini της Google δημιούργησε μια εικόνα μιας διασημότητας που κρατιόταν στο χέρι ενός γίγαντα, αν και απέρριψε ένα άλλο prompt. Η Google αρνήθηκε να σχολιάσει το ζήτημα.
Ένα βίντεο του Grok Imagine, το οποίο αναρτήθηκε επίσης στο X, φάνηκε να απεικονίζει την κυρία Ashley St. Clair, αλλοιωμένη ώστε να χορεύει με μπικίνι. Η κυρία St. Clair είχε προηγουμένως σχέση με τον κύριο Μασκ και είναι μητέρα ενός από τα παιδιά του. Τον Ιανουάριο, ξεκίνησε νομικές ενέργειες κατά της xAI, αφού σεξουαλικοποιημένα deepfakes της φέρεται να εμφανίστηκαν στο X. Αφού η WIRED επικοινώνησε με την X, η ανάρτηση αφαιρέθηκε από την πλατφόρμα κοινωνικής δικτύωσης λόγω παραβίασης των κανόνων της.
Η κυρία Carrie Goldberg, δικηγόρος της κυρίας St. Clair και εξέχουσα υπέρμαχος κατά των μη συναινετικών σεξουαλικοποιημένων εικόνων, δηλώνει ότι η δημιουργία υλικού σεξουαλικής κακοποίησης με διασημότητες δεν είναι κάτι καινούργιο. Ωστόσο, η δυνατότητα δημιουργίας τέτοιων εικόνων και η άμεση κοινοποίησή τους στα μέσα κοινωνικής δικτύωσης αποτελεί μια «ιστορική» εξέλιξη.
«So there was instant publication of the digital nude images,» δηλώνει η κυρία Goldberg στη WIRED. «And not only that, but the world’s richest man was promoting the nudification technology to his 240 million followers on X, monetizing it, and doing so on a platform that is for ages 13+.»
Ο κύριος Imran Ahmed, Διευθύνων Σύμβουλος και ιδρυτής του Center for Countering Digital Hate (CCDH), συμμερίζεται τις ανησυχίες της κυρίας Goldberg. «Elon Musk knowingly added a perverse feature to his platform that helps users undress women and children at the click of a button, with no regard for the predictable damage it would cause,» ισχυρίζεται ο κύριος Ahmed. Τον Ιανουάριο, το CCDH εκτίμησε με υψηλό βαθμό βεβαιότητας ότι το Grok δημιούργησε 3 εκατομμύρια σεξουαλικοποιημένες εικόνες, οι οποίες φέρεται να περιλάμβαναν περισσότερες από 20.000 παιδιών. «Now it appears explicit content is still being hosted on Grok and shared on X, including images ridiculing the mother of Musk’s child.»
Σε αντίθεση με άλλα συστήματα παραγωγικής τεχνητής νοημοσύνης από την OpenAI και την Google, το Grok του κυρίου Μασκ και η xAI δεν έχουν αποστασιοποιηθεί από την γενική επιτροπή σεξουαλικού περιεχομένου. Προηγουμένως είχαν εισαγάγει τις λειτουργίες «Spicy» και «Unhinged» και αρχικά περιλάμβαναν λιγότερα μέτρα ασφαλείας. Ο κύριος Μασκ έχει δηλώσει ότι το Grok «supposed [to] allow upper body nudity of imaginary adult humans» και να είναι συνεπές με αυτό που οι θεατές θα μπορούσαν να δουν σε ταινίες με αξιολόγηση R. Οι πιο πρόσφατοι όροι παροχής υπηρεσιών της xAI αναφέρουν ότι το σύστημα μπορεί να ανταποκριθεί με «sexual situations». Ωστόσο, η τεκμηρίωση της εταιρείας αναφέρει ότι δεν επιτρέπει στους χρήστες να χρησιμοποιούν τα συστήματά της για «causing harm or engaging in abusive activity.»
Άλλα βίντεο του Grok Imagine που έχουν παρατηρηθεί, τα οποία είναι πιθανότατα εξ ολοκλήρου παραγόμενα από τεχνητή νοημοσύνη, απεικονίζουν γυναίκες να γδύνονται ή να εμπλέκονται σε σεξουαλικές πράξεις — ορισμένα είναι πλήρως ρητά. Τα prompts των χρηστών για πολλά από αυτά τα βίντεο δεν περιγράφουν απαραίτητα άμεσα σεξουαλικές πράξεις, αλλά τις περιγράφουν με έμμεσους τρόπους — μια πιθανή προσπάθεια να παρακαμφθούν τα μέτρα ασφαλείας που έχουν αναπτυχθεί στην πλατφόρμα Grok.
Πολλοί ερευνητές δήλωσαν στη WIRED ότι από τον Ιανουάριο, φαίνεται πως οι αλλαγές που εισήχθησαν έχουν καταστήσει δυσκολότερη τη δημιουργία εικόνων «γύμνωσης» ή «απογύμνωσης» πραγματικών προσώπων. Ο αριθμός αυτών των εικόνων που αναρτώνται στο X έχει φανεί να μειώνεται τους τελευταίους μήνες. Σε πλατφόρμες όπως το Reddit και σε ένα ειδικό φόρουμ για deepfakes τεχνητής νοημοσύνης, χρήστες έχουν εκφράσει παράπονα για την αυξημένη εποπτεία από τις εταιρείες που ανήκουν στη SpaceX.
Παρ’ όλα αυτά, τον Μάιο, η SpaceX προειδοποίησε τους δυνητικούς επενδυτές ότι έχει δεσμεύσει 530 εκατομμύρια δολάρια για την αντιμετώπιση των εν εξελίξει νομικών προσφυγών, συμπεριλαμβανομένων εκείνων που συνδέονται με το Grok. «Because these modes may be more irreverent and harsher than our standard offerings, they present heightened risks, including reputational harm, the generation of potentially explicit content and misinformation or deceptive outputs, potential nonconsensual or exploitative imagery, intellectual property infringement, or content that could be viewed as exploitative, harmful, harassing, abusive, or discriminatory,» ανέφερε η κατάθεσή της τον Μάιο.
Ενόψει της αρχικής δημόσιας προσφοράς (IPO) της SpaceX την Παρασκευή, ο Επίτροπος Προστασίας Προσωπικών Δεδομένων του Καναδά δημοσίευσε τα προκαταρκτικά του ευρήματα από έρευνα σχετικά με τις παραβάσεις deepfake της xAI και του Grok τον Ιανουάριο. Η έρευνα ισχυρίστηκε ότι η xAI παραβίασε τον ομοσπονδιακό νόμο περί απορρήτου του ιδιωτικού τομέα του Καναδά, καθώς δεν εφάρμοσε «appropriate safeguards from the outset.» Η έρευνα αναφέρει ότι η xAI ενημέρωσε τον Επίτροπο Προστασίας Προσωπικών Δεδομένων ότι έχει εισαγάγει νέα μέτρα προστασίας για να αποτρέψει τους χρήστες από το να δίνουν επιτυχώς εντολές στο Grok για την αλλαγή ρούχων σε εικόνες, και ότι η xAI έχει εισαγάγει «further proactive checks» σε ιστότοπους κοινωνικής δικτύωσης για τον εντοπισμό παραβατικού περιεχομένου.
Ωστόχος, η έρευνα αναφέρει ότι ο Επίτροπος Προστασίας Προσωπικών Δεδομένων δεν έχει πειστεί. «The respondents have not, to date, demonstrated the effectiveness of these safeguards in preventing and mitigating this issue,» αναφέρει η έρευνα.
Πγγή: WIRED
