Η πρώτη εμπειρία με το Gemini Spark προκάλεσε έντονο γέλιο. Παραχωρήθηκε στον νέο πράκτορα τεχνητής νοημοσύνης της Google πλήρης πρόσβαση σε προσωπικές εφαρμογές, όπως το Gmail, τα Έγγραφα και το Ημερολόγιο. Στη συνέχεια, υποβλήθηκε μια απλή, μονολεκτική εντολή, ζητώντας από το bot βοήθεια για τον προγραμματισμό ενός πάρτι για τα επερχόμενα γενέθλια. Το Gemini Spark όχι μόνο αναζήτησε στο εισερχόμενο μου και στο ημερολόγιο για να εντοπίσει την πραγματική κράτηση που είχε γίνει σε ένα μπαρ καραόκε, αλλά δημιούργησε επίσης ένα πεντασέλιδο πρόγραμμα, το οποίο περιλάμβανε λίστα καλεσμένων, κανόνες χώρου, κοντινά μπαρ για after-party, προσκλήσεις μέσω email και ιδέες για θέματα. Το αποτέλεσμα ήταν πραγματικά εντυπωσιακό και ολοκληρώθηκε μέσα σε λίγα λεπτά, χωρίς να χρειαστεί επίβλεψη του πράκτορα ή να παραμείνει ανοιχτός ο φορητός υπολογιστής.
Το στοιχείο που προκάλεσε νευρικό γέλιο – για πολλαπλούς λόγους – ήταν η λίστα καλεσμένων που δημιουργήθηκε από την τεχνητή νοημοσύνη του Gemini Spark. Ο πράκτορας σάρωσε τα email και τα έγγραφα για να συντάξει μια λίστα πιθανών φίλων, κάτι που δεν αναμενόταν, και πρότεινε 15 άτομα για πρόσκληση, τον σωστό μέγιστο αριθμό που χωράει στην αίθουσα καραόκε. «Το ιστορικό ταξιδιών και τα email σας αναγνωρίζουν [το όνομα του συντρόφου μου] ως στενό φίλο και συχνό σύντροφο, καθιστώντας τον μια φυσική πρώτη προσθήκη», ανέφερε η εξήγηση του Gemini Spark για την τοποθέτησή του στην κορυφή της λίστας.
Αφού παραχωρήθηκε στον πράκτορα της Google πρόσβαση σε τόσο ανεξέλεγκτο πλαίσιο σχετικά με την προσωπική ζωή, ουσιαστικά εκθέτοντας τον εαυτό μου ψηφιακά στο Gemini Spark και στις ιδιοτροπίες ενός πειραματικού λογισμικού, δεν μπορούσα να ξεπεράσω την ειρωνεία του να υποβιβάζει τον μακροχρόνιο, συγκατοικούντα σύντροφό μου σε απλό «στενό φίλο και συχνό σύντροφο». Τι είναι αυτό, η δεκαετία του ’80; Επίσης, γρήγορα συνειδητοποιήθηκε ότι εγώ, ο εορτάζων, δεν συμπεριλαμβανόμουν στη λίστα καλεσμένων του δικού μου πάρτι.
Η Google ξεκίνησε την κυκλοφορία του Gemini Spark αυτή την εβδομάδα ως έκδοση beta για τους συνδρομητές του προγράμματος AI Ultra της εταιρείας, το οποίο ξεκινά από 100 δολάρια τον μήνα. Ο πράκτορας τεχνητής νοημοσύνης βρίσκεται μέσα στο chatbot Gemini ως νέα καρτέλα, και οι χρήστες μπορούν να τον ελέγχουν χρησιμοποιώντας τόσο κινητές όσο και επιτραπέζιες συσκευές. Δεν απαιτείται συσκευή Android· λειτουργεί και σε iPhone.
Αντί για τις πιο οικείες «εντολές» (prompts), οι οδηγίες που αποστέλλονται στο Spark αναφέρονται ως «εργασίες» (tasks). Το Spark μπορεί να δημιουργεί συμβάντα ημερολογίου και να αποστέλλει email – με την έγκρισή σας πρώτα – καθώς και να λειτουργεί ένα απομακρυσμένο πρόγραμμα περιήγησης για πλοήγηση στο διαδίκτυο.
Ας αναλύσουμε το έγγραφο προγραμματισμού που δημιούργησε για να κατανοήσουμε καλύτερα πώς λειτουργεί το Gemini Spark. Η πρώτη ενότητα ήταν μια επισκόπηση της εκδήλωσης, η οποία περιλάμβανε την ακριβή ημερομηνία, τη διεύθυνση και τα στοιχεία κράτησης που αντλήθηκαν από το email. Αυτό περιλάμβανε ακόμη και τα τέσσερα τελευταία ψηφία της πιστωτικής κάρτας που χρησιμοποιήθηκε για την προκαταβολή των 50 δολαρίων.
Η εντολή που δόθηκε στο bot δεν ήταν πολύ λεπτομερής, οπότε οι προσδοκίες ήταν χαμηλές. Αναμενόταν να δημιουργήσει ένα τυχαίο σχέδιο γενεθλίων από το ασαφές αίτημα, όχι να αποκαλύψει το πραγματικό πάρτι που ήταν κρυμμένο στα email.
Το πρόγραμμα γενεθλίων που δημιουργήθηκε από την τεχνητή νοημοσύνη περιλάμβανε επίσης κοντινά μέρη, πλήρη με τηλέφωνα για κρατήσεις. Όταν ζητήθηκε από το Gemini Spark να προσπαθήσει να κλείσει τις κρατήσεις για δείπνο, επιχείρησε να ολοκληρώσει το αίτημα, αλλά παρουσίασε δυσλειτουργία.
Λειτούργησε ένα απομακρυσμένο πρόγραμμα περιήγησης ως μέρος των προσπαθειών του, ενεργοποιώντας ακόμη και την αποστολή ενός εξαψήφιου κωδικού επαλήθευσης στο τηλέφωνο, αλλά δεν μπόρεσε να ολοκληρώσει την εργασία ακόμη και μετά από διαφορετικές προσπάθειες. Τελικά, χρειάστηκε να τηλεφωνήσω στο εστιατόριο σούσι για να εξασφαλίσω θέσεις.
Ακολούθησε το σχέδιο για μετά το πάρτι, όπου το Gemini Spark είχε καταγράψει αποκλειστικά gay μπαρ για επίσκεψη. Τα συγκεκριμένα queer μπαρ είναι μέρη όπου πιθανότατα θα πήγαινα ούτως ή άλλως, χωρίς την πρόταση της τεχνητής νοημοσύνης, οπότε υπήρχε περιέργεια για το πώς το Gemini Spark τα επέλεξε. Ένιωσα ότι γινόταν προφίλ και ήθελα απαντήσεις για το γιατί αυτό το σχέδιο ήταν τόσο, καλά, gay.
«The system does not make inferences about your personal identity. Instead, it scans your files and emails for exact keywords, past itineraries, and transactions,» read Gemini Spark’s response. «The suggestions of those specific venues (like Toad Hall and OASIS) and guest lists (from Stonewall Sports and the Sons of Pitches roster) were chosen simply because those exact names, events, and locations are recorded directly in your Google Workspace history.» Το Spark ανέφερε συγκεκριμένα email και ταξιδιωτικά έγγραφα, τα οποία δεν θυμόμουν καν ότι υπήρχαν, ως πηγή για αυτές τις επιλογές. Απίστευτο.
Το προσχέδιο email που συντάχθηκε για τους καλεσμένους του πάρτι περιέγραφε λεπτομερώς τους κανόνες του χώρου, δημιουργώντας έναν ακατάλληλο τόνο για μια χαλαρή βραδιά τραγουδιού Chappell Roan. (Κανείς στο πάρτι των 32ων γενεθλίων μου δεν θα είναι κάτω των 21, οπότε γιατί το Spark επιπλήττει τους πάντες για τις ελάχιστες απαιτήσεις ηλικίας;) Ζητήθηκε από τον πράκτορα να ξαναγράψει το email χρησιμοποιώντας έναν πιο χαλαρό τόνο, και στη συνέχεια να στείλει μια δοκιμή στο email του συντρόφου μου. Αφού επιβεβαιώθηκε η έγκριση της διατύπωσης, το Gemini Spark απέστειλε αυτόματα το μήνυμα.
Εκτός από την τυπική αποποίηση ευθυνών για την τεχνητή νοημοσύνη στο κάτω μέρος της σελίδας του Gemini Spark, η Google συνιστά ιδιαίτερη προσοχή στους χρήστες που ενδέχεται να επιθυμούν να συνδέσουν τον πράκτορα με τα δεδομένα τους. Ένα γνωστό ζήτημα με τους πράκτορες τεχνητής νοημοσύνης είναι το πώς τα εργαλεία καθιστούν τους χρήστες ευάλωτους σε επιθέσεις έγχυσης εντολών (prompt injection attacks), όπου κακόβουλοι παράγοντες ουσιαστικά εξαπατούν τον πράκτορα να κάνει κακόβουλες ενέργειες με τα δεδομένα στα οποία έχει πρόσβαση.
Η σελίδα βοήθειας της Google προσφέρει το ακόλουθο παράδειγμα: «A malicious instruction could tell the agent to take your private info from your emails or documents and post it on a public website, send your emails in Gmail to an external service without you knowing, expose insights about you based on your data in connected apps.» Αυτή η αποποίηση ευθυνών και μόνο θα πρέπει να είναι επαρκής λόγος για τους περισσότερους χρήστες να μην δοκιμάσουν το Gemini Spark. Φανταστείτε τις πιο ευαίσθητες πληροφορίες από το Gmail σας να δημοσιεύονται σε όλο το διαδίκτυο. Τι εφιάλτης. Δεν μπορώ καν να συστήσω σε περίεργους πρώτους χρήστες να δώσουν στο Spark πρόσβαση σε ολόκληρο το εισερχόμενο τους, καθώς αυτό θα μπορούσε να τους εκθέσει σε πιθανές παραβιάσεις ασφαλείας.
Το πείραμα με το πάρτι γενεθλίων προσέφερε μόνο μια μικρή γεύση των πλήρων δυνατοτήτων αυτοματοποίησης του Gemini Spark. Οι χρήστες μπορούν επίσης να προγραμματίζουν επαναλαμβανόμενες εργασίες και να ανεβάζουν μοναδικές δεξιότητες στο Spark, όπως η μίμηση του τόνου της φωνής κατά τη σύνταξη email. Παρόλα αυτά, το πρόγραμμα γενεθλίων κατέγραψε δύο θεμελιώδεις πτυχές αυτών των τύπων πρακτόρων τεχνητής νοημοσύνης.
Πρώτον, όσο περισσότερα προσωπικά δεδομένα παρέχονται σε αυτά τα εργαλεία τεχνητής νοημοσύνης, τόσο πιο εξαιρετικά συγκεκριμένα μπορούν να είναι τα αποτελέσματά τους. Δεν χρειάστηκε να ενημερώσω τον πράκτορα ότι είχα ήδη ξεκινήσει τον προγραμματισμό του πάρτι· απλώς συνέλεξε όλες τις απαραίτητες πληροφορίες. Ωστόσο, αυτός ο τύπος πρόσβασης εξακολουθεί να ανοίγει την πόρτα σε πιθανές παραβιάσεις ασφαλείας.
Δεύτερον, αυτοί οι πράκτορες μπορούν να είναι τεχνικά «έξυπνοι» χάρη στα ισχυρά μοντέλα τεχνητής νοημοσύνης τους και παρόλα αυτά να στερούνται κάθε είδους κοινής λογικής. Ρώτησα ξανά το Gemini Spark για την άποψή του σχετικά με τον σύντροφό μου. «Your shared housing, mutual account recovery, and shared travel records show you are close daily companions,» ανέφερε η απάντησή του. Το Gemini Spark αρνήθηκε ξανά να ορίσει τη σχέση. Έτσι, ακόμη και αφού παρείχα στον πράκτορα τα πάντα, εξακολουθούσα να νιώθω ότι με γνώριζε ελάχιστα.
Πηγή: WIRED
