Η δικαστική απόφαση πηγάζει από μια υπόθεση που είχε αρχικά δημοσιευθεί, όπου δύο εκδοτικοί οίκοι διαπίστωσαν ότι οι περιλήψεις που παρήγαγε η τεχνητή νοημοσύνη (AI) της Google τους συνέδεαν, σε συγκεκριμένες αναζητήσεις, με αμφισβητήσιμες επιχειρηματικές πρακτικές, απάτες και απάτες που σχετίζονταν με συνδρομές, χωρίς να υπάρχει καμία πραγματική βάση για αυτές τις συνδέσεις.
Νωρίτερα εντός του τρέχοντος έτους, οι θιγόμενες εταιρείες απέστειλαν στην τεχνολογική εταιρεία μια επιστολή παύσης και αποχής, σύμφωνα με την αναφορά. Η Google αρνήθηκε την ευθύνη, υποστηρίζοντας ότι η λειτουργία αυτόματης περίληψης προειδοποιεί τους χρήστες ότι οι πληροφορίες ενδέχεται να περιέχουν σφάλματα και πρέπει να επαληθεύονται ανεξάρτητα.
Η ανάλυση του δικαστηρίου κατέληξε στο συμπέρασμα ότι η τεχνητή νοημοσύνη της Google συνδύασε πληροφορίες που αντιστοιχούσαν σε άλλες εταιρείες, οι οποίες είχαν επισημανθεί για πιθανές παράνομες πρακτικές, με δεδομένα από τους ενάγοντες, δημιουργώντας συσχετίσεις που δεν εμφανίζονταν σε καμία από τις συνδεδεμένες πηγές.
Οι αρχές διαπίστωσαν ότι, σε αντίθεση με τις παραδοσιακές μηχανές αναζήτησης, οι οποίες απλώς εμφανίζουν λίστες συνδέσμων με δηλώσεις που έχουν γίνει, το εργαλείο της Google παρήγαγε «ανεξάρτητες, νέες και ουσιαστικές δηλώσεις» βασισμένες σε μια λανθασμένη ερμηνεία των διαθέσιμων πληροφοριών στο διαδίκτυο.
Σύμφωνα με το δικαστήριο, η διόρθωση της παραπληροφόρησης δεν αποτελεί ευθύνη τρίτων. Η Google είναι η μόνη οντότητα με την ικανότητα να τροποποιήσει την τεχνολογία που υποστηρίζει τις περιλήψεις που παράγονται από την τεχνητή νοημοσύνη της και, ως εκ τούτου, «πρέπει να λογοδοτήσει». Επιπλέον, το δικαστήριο διαπίστωσε ότι η γραμμή άμυνας της Google στερούνταν αξίας, καθώς η αμφισβητούμενη περίληψη «περιέχει δηλώσεις που δεν εμφανίζονται καθόλου στα αποτελέσματα αναζήτησης».
Μια Νέα (και Ισχυρή) Ερμηνεία της Τεχνητής Νοημοσύνης στον Ιστό
Η ερμηνεία του δικαστηρίου σχετικά με τον ρόλο της τεχνητής νοημοσύνης στην παρουσίαση των αποτελεσμάτων αναζήτησης θα μπορούσε να καταστήσει αυτή την υπόθεση ένα ιστορικό προηγούμενο. Κρίνει μια μεγάλη τεχνολογική εταιρεία υπεύθυνη για την επιρροή των πιο προηγμένων εξελίξεών της σε ευρέως χρησιμοποιούμενες πλατφόρμες.
Μέχρι σήμερα, στα περισσότερα νομικά συστήματα, οι μηχανές αναζήτησης έχουν θεωρηθεί εργαλεία που απλώς διευκολύνουν την πρόσβαση σε περιεχόμενο που δημιουργείται στον ιστό. Αυτή η ιδιότητα τους έχει προσφέρει ένα ορισμένο επίπεδο προστασίας όταν οι δημοσιευμένες πληροφορίες είναι ψευδείς, ανακριβείς, παραπλανητικές ή ακόμη και δυσφημιστικές.
Ωστόσο, το γερμανικό δικαστήριο έκρινε ότι αυτή η διασφάλιση δεν ισχύει πλέον όταν οι μηχανές αναζήτησης ενσωματώνουν συστήματα παραγωγικής τεχνητής νοημοσύνης. Σύμφωνα με τη συλλογιστική του, αυτή η τεχνολογία είναι ικανή να παράγει ανύπαρκτους ισχυρισμούς βασισμένους σε πολλαπλές πηγές και, κατά συνέπεια, οι εταιρείες που είναι υπεύθυνες για τη λειτουργία της πρέπει να αναλάβουν την ευθύνη για το παραγόμενο περιεχόμενο.
Οι δικαστές κατέληξαν επίσης στο συμπέρασμα ότι, ενώ η Google ενθαρρύνει τους χρήστες να επαληθεύουν τις πληροφορίες λόγω της πιθανότητας «παραισθήσεων» που είναι εγγενείς στα μοντέλα τεχνητής νοημοσύνης, αυτή η προειδοποίηση δεν απαλλάσσει τον διανομέα περιεχομένου από την ευθύνη. Διαφορετικά, υποστήριξαν, τα θύματα ψευδών δηλώσεων θα ήταν ουσιαστικά ανυπεράσπιστα, καθώς οι αρχικές πηγές δεν έκαναν ποτέ αυτές τις δηλώσεις και, επομένως, δεν θα μπορούσαν να αποτελέσουν αντικείμενο νομικής δράσης.
Ομοίως, το δικαστήριο έκρινε ότι τα αποτελέσματα που παράγονται δεν προστατεύονται από τις αρχές της ελευθερίας του λόγου, καθώς αποτελούν προϊόν ενός αλγορίθμου που έχει σχεδιαστεί, εκπαιδευτεί και διαχειρίζεται, και όχι την έκφραση μιας ατομικής γνώμης.
Ως προληπτικό μέτρο για την αποτροπή πιθανής επανάληψης, η απόφαση απαίτησε από την Google να αφαιρέσει ένα μεγάλο μέρος των δηλώσεων που κρίθηκαν δυσφημιστικές σε αυτή την υπόθεση και να καλύψει το 80% των νομικών εξόδων που προέκυψαν από τις διαδικασίες.
Ένας εκπρόσωπος της εταιρείας, ο οποίος παρατέθηκε, υπαινίχθηκε ότι η απόφαση θα μπορούσε να ασκηθεί έφεση. «Επενδύουμε βαθιά στην ποιότητα των AI Overviews για να διασφαλίσουμε ότι η συντριπτική πλειοψηφία των απαντήσεων παρέχει ακριβείς πληροφορίες, και έχουν σχεδιαστεί για να αντικατοπτρίζουν τις πληροφορίες που υπάρχουν στον ιστό,” the statement says. “Εξετάζουμε προσεκτικά αυτή την απόφαση, η οποία δεν είναι ακόμη οριστική.»
Η απόφαση του γερμανικού δικαστηρίου θα μπορούσε να έχει παγκόσμιες επιπτώσεις για τη βιομηχανία της τεχνητής νοημοσύνης. Εταιρείες όπως η OpenAI, η Anthropic και η Perplexity AI προειδοποιούν επίσης τους χρήστες τους ότι οι απαντήσεις που παράγονται ενδέχεται να είναι παραπλανητικές και, όπως η Google, συνιστούν την επαλήθευση των πληροφοριών πριν από τη χρήση τους. Αυτή η προειδοποίηση βρίσκεται συνήθως στους όρους παροχής υπηρεσιών που αποδέχονται οι χρήστες κατά τη δημιουργία λογαριασμού σε μια πλατφόρμα.
Ωστόσο, αυτή η υπόθεση υποστηρίζει ότι τέτοιες προειδοποιήσεις δεν επαρκούν για να απαλλάξουν τους προγραμματιστές από την ευθύνη. Η απόφαση ορίζει ότι όταν μια τεχνητή νοημοσύνη παράγει νέες δηλώσεις που δεν εμφανίζονται άμεσα στις αρχικές της πηγές, η εταιρεία που σχεδιάζει, εκπαιδεύει, λειτουργεί και διαχειρίζεται το σύστημα πρέπει να αναλάβει τη νομική ευθύνη για τυχόν ζημιές που προκαλούνται.
Πηγή:WIRED
