Η πρώτη εμπειρία χρήσης του Gemini Spark προκάλεσε έντονη έκπληξη στον χρήστη. Ο νέος πράκτορας τεχνητής νοημοσύνης της Google έλαβε πρόσβαση σε όλα τα προσωπικά δεδομένα του χρήστη, συμπεριλαμβανομένων των εφαρμογών Gmail, Docs και Calendar. Κατόπιν, υποβλήθηκε μια απλή, μονολεκτική εντολή, ζητώντας από το bot βοήθεια για τον προγραμματισμό ενός πάρτι για τα επερχόμενα γενέθλια του χρήστη. Το Gemini Spark όχι μόνο σάρωσε το inbox και το ημερολόγιο για να εντοπίσει μια πραγματική κράτηση που είχε γίνει σε ένα μπαρ καραόκε, αλλά δημιούργησε επίσης ένα πεντασέλιδο πρόγραμμα. Αυτό περιλάμβανε μια λίστα καλεσμένων, τους κανόνες του χώρου, προτάσεις για κοντινά μπαρ για after-party, προσκλήσεις μέσω email και ιδέες για θέματα. Το αποτέλεσμα κρίθηκε ως πραγματικά εντυπωσιακό και ολοκληρώθηκε μέσα σε λίγα λεπτά, χωρίς να απαιτείται επίβλεψη του πράκτορα ή να παραμείνει ο φορητός υπολογιστής ανοιχτός.
Το στοιχείο που προκάλεσε ιδιαίτερη αμηχανία και γέλιο στον χρήστη, για πολλούς λόγους, ήταν η λίστα καλεσμένων που δημιουργήθηκε από την τεχνητή νοημοσύνη του Gemini Spark. Ο πράκτορας σάρωσε τα emails και τα έγγραφα του χρήστη για να καταρτίσει μια λίστα πιθανών φίλων, κάτι που δεν αναμενόταν, και πρότεινε 15 άτομα για πρόσκληση, τον ακριβή μέγιστο αριθμό που χωράει στο συγκεκριμένο δωμάτιο καραόκε. Η εξήγηση του Gemini Spark για την τοποθέτηση του συντρόφου του χρήστη στην κορυφή της λίστας ανέφερε: “Your travel history and emails identify [my partner’s name] as a close friend and frequent companion, making him a natural first addition.”
Αφού παρασχέθηκε στον πράκτορα της Google τόσο εκτεταμένο και ανεμπόδιστο πλαίσιο πληροφοριών για τη ζωή του χρήστη, ο οποίος ένιωσε ουσιαστικά ψηφιακά εκτεθειμένος στις ιδιοτροπίες ενός πειραματικού λογισμικού, ο χρήστης δεν μπορούσε να παραβλέψει την ειρωνεία της υποβάθμισης του μακροχρόνιου, συγκατοικούντος συντρόφου του σε απλό “close friend and frequent companion.” Επιπλέον, ο χρήστης συνειδητοποίησε γρήγορα ότι ο ίδιος, ως ο εορτάζων, δεν είχε συμπεριληφθεί στη λίστα καλεσμένων του δικού του πάρτι.
Η Google ξεκίνησε την κυκλοφορία του Gemini Spark αυτή την εβδομάδα ως έκδοση beta για τους συνδρομητές του προγράμματος AI Ultra της εταιρείας, το οποίο έχει αρχικό κόστος 100 δολάρια τον μήνα. Ο πράκτορας τεχνητής νοημοσύνης είναι ενσωματωμένος στο chatbot Gemini ως μια νέα καρτέλα και οι χρήστες μπορούν να τον ελέγχουν χρησιμοποιώντας τόσο κινητές όσο και επιτραπέζιες συσκευές. Δεν απαιτείται συσκευή Android, καθώς λειτουργεί και σε iPhone.
Αντί για τις πιο οικείες “prompts” (προτροπές), οι εντολές που αποστέλλονται στο Spark αναφέρονται ως “tasks” (εργασίες). Το Spark έχει τη δυνατότητα να δημιουργεί συμβάντα ημερολογίου και να αποστέλλει emails – πάντα με την προηγούμενη έγκριση του χρήστη – καθώς και να λειτουργεί ένα απομακρυσμένο πρόγραμμα περιήγησης για πλοήγηση στο διαδίκτυο.
Για την καλύτερη κατανόηση της λειτουργίας του Gemini Spark, αναλύεται το έγγραφο σχεδιασμού που δημιούργησε. Η πρώτη ενότητα αποτελούσε μια επισκόπηση της εκδήλωσης, παραθέτοντας την ακριβή ημερομηνία, τη διεύθυνση και τις λεπτομέρειες κράτησης που αντλήθηκαν από το email του χρήστη. Αυτό περιλάμβανε ακόμη και τα τέσσερα τελευταία ψηφία της πιστωτικής κάρτας που χρησιμοποιήθηκε για την προκαταβολή των 50 δολαρίων.
Η εντολή του χρήστη προς το bot δεν ήταν ιδιαίτερα λεπτομερής, με αποτέλεσμα οι προσδοκίες του να είναι χαμηλές. Ο χρήστης ανέμενε τη δημιουργία ενός τυχαίου σχεδίου γενεθλίων βάσει του ασαφούς αιτήματός του, και όχι την αποκάλυψη του πραγματικού πάρτι που ήταν κρυμμένο στα emails του.
Το πρόγραμμα γενεθλίων που δημιουργήθηκε από την τεχνητή νοημοσύνη περιλάμβανε επίσης κοντινά μέρη, πλήρη με τηλεφωνικούς αριθμούς για κρατήσεις. Όταν ο χρήστης ζήτησε από το Gemini Spark να προσπαθήσει να κάνει τις κρατήσεις για δείπνο, ο πράκτορας επιχείρησε να ολοκληρώσει το αίτημα, αλλά παρουσίασε δυσλειτουργία.
Ως μέρος των προσπαθειών του, λειτούργησε ένα απομακρυσμένο πρόγραμμα περιήγησης, ενεργοποιώντας ακόμη και την αποστολή ενός εξαψήφιου κωδικού επαλήθευσης στο τηλέφωνο του χρήστη, αλλά δεν μπόρεσε να ολοκληρώσει την εργασία, ακόμη και μετά από επανειλημμένα αιτήματα με διαφορετικούς τρόπους. Ο χρήστης τελικά αναγκάστηκε να καλέσει ο ίδιος το εστιατόριο σούσι για να εξασφαλίσει θέσεις.
Στη συνέχεια, παρουσιάστηκε το σχέδιο για μετά το πάρτι, όπου το Gemini Spark είχε καταγράψει αποκλειστικά gay μπαρ για επίσκεψη. Ο χρήστης σημείωσε ότι αυτά τα συγκεκριμένα μπαρ ήταν πιθανότατα μέρη που θα επισκεπτόταν ούτως ή άλλως, χωρίς την πρόταση της τεχνητής νοημοσύνης, και εξέφρασε την περιέργειά του για το πώς το Gemini Spark επέλεξε αυτά τα μέρη. Ένιωσε ότι γινόταν προφίλ και αναζητούσε απαντήσεις σχετικά με τον λόγο που αυτό το σχέδιο ήταν τόσο, ας πούμε, “gay.”
Η απάντηση του Gemini Spark ήταν η εξής: “The system does not make inferences about your personal identity. Instead, it scans your files and emails for exact keywords, past itineraries, and transactions.” Πρόσθεσε: “The suggestions of those specific venues (like Toad Hall and OASIS) and guest lists (from Stonewall Sports and the Sons of Pitches roster) were chosen simply because those exact names, events, and locations are recorded directly in your Google Workspace history.” Το Spark ανέφερε συγκεκριμένα emails και ταξιδιωτικά έγγραφα, τα οποία ο χρήστης δεν θυμόταν καν ότι υπήρχαν, ως το αρχικό υλικό που υποστήριζε αυτές τις επιλογές.
Το προσχέδιο email που συντάχθηκε για αποστολή στους καλεσμένους του πάρτι περιείχε λεπτομερείς πληροφορίες σχετικά με τους κανόνες του χώρου, υιοθετώντας έναν τόνο που δεν ταίριαζε σε μια χαλαρή βραδιά τραγουδιού Chappell Roan. (Κανείς στο πάρτι των 32ων γενεθλίων του χρήστη δεν θα ήταν κάτω των 21 ετών, οπότε ο χρήστης αναρωτήθηκε γιατί το Spark επέπληττε τους πάντες για τις απαιτήσεις ελάχιστης ηλικίας.) Ο χρήστης ζήτησε από τον πράκτορα να ξαναγράψει το email χρησιμοποιώντας έναν πιο ανεπίσημο τόνο και στη συνέχεια να στείλει μια δοκιμαστική έκδοση στο email του συντρόφου του. Αφού επιβεβαιώθηκε η έγκριση της διατύπωσης, το Gemini Spark απέστειλε αυτόματα το μήνυμα.
Εκτός από την τυπική αποποίηση ευθυνών της τεχνητής νοημοσύνης που βρίσκεται στο κάτω μέρος της σελίδας του Gemini Spark, η Google συνιστά επιπλέον προσοχή στους χρήστες που ενδέχεται να επιθυμούν να συνδέσουν τον πράκτορα με τα δεδομένα τους. Ένα γνωστό ζήτημα με τους πράκτορες τεχνητής νοημοσύνης είναι ο τρόπος με τον οποίο αυτά τα εργαλεία καθιστούν τους χρήστες ευάλωτους σε επιθέσεις “prompt injection,” όπου κακόβουλοι παράγοντες ουσιαστικά εξαπατούν τον πράκτορα ώστε να προβεί σε ανεπιθύμητες ενέργειες με τα δεδομένα στα οποία έχει πρόσβαση.
Η σελίδα βοήθειας της Google προσφέρει το ακόλουθο παράδειγμα: “A malicious instruction could tell the agent to: take your private info from your emails or documents and post it on a public website, send your emails in Gmail to an external service without you knowing, expose insights about you based on your data in connected apps.” Αυτή η αποποίηση ευθυνών και μόνο θα πρέπει να είναι επαρκής λόγος για τους περισσότερους χρήστες να μην δοκιμάσουν το Gemini Spark. Η σκέψη των πιο ευαίσθητων πληροφοριών από το Gmail να δημοσιεύονται σε όλο το διαδίκτυο αποτελεί έναν εφιάλτη. Ο χρήστης δεν μπορεί να συστήσει ακόμη και σε περίεργους πρώτους χρήστες να δώσουν στο Spark πρόσβαση σε ολόκληρο το inbox τους, καθώς αυτό θα μπορούσε να τους εκθέσει σε πιθανές παραβιάσεις ασφαλείας.
Το πείραμα με το πάρτι γενεθλίων παρείχε μόνο μια μικρή γεύση των πλήρων δυνατοτήτων αυτοματοποίησης του Gemini Spark. Οι χρήστες μπορούν επίσης να προγραμματίζουν επαναλαμβανόμενες εργασίες και να ανεβάζουν μοναδικές δεξιότητες στο Spark, όπως η μίμηση του τόνου φωνής κατά τη σύνταξη emails. Παρόλα αυτά, το πρόγραμμα γενεθλίων ανέδειξε δύο θεμελιώδεις πτυχές αυτών των τύπων πρακτόρων τεχνητής νοημοσύνης.
Πρώτον, όσο περισσότερα προσωπικά δεδομένα παρέχονται σε αυτά τα εργαλεία τεχνητής νοημοσύνης, τόσο πιο εξειδικευμένα μπορούν να είναι τα αποτελέσματά τους. Ο χρήστης δεν χρειάστηκε να ενημερώσει τον πράκτορα ότι είχε ήδη ξεκινήσει τον προγραμματισμό του πάρτι· απλώς συνέλεξε όλες τις απαραίτητες πληροφορίες. Ωστόσο, αυτός ο τύπος πρόσβασης εξακολουθεί να ανοίγει την πόρτα σε πιθανές παραβιάσεις ασφαλείας.
Δεύτερον, αυτοί οι πράκτορες μπορούν να είναι τεχνικά “έξυπνοι” χάρη στα ισχυρά μοντέλα τεχνητής νοημοσύνης τους, αλλά να στερούνται οποιασδήποτε μορφής κοινής λογικής. Ο χρήστης ρώτησε ξανά το Gemini Spark για την άποψή του σχετικά με τον σύντροφό του. Η απάντηση ήταν: “Your shared housing, mutual account recovery, and shared travel records show you are close daily companions.” Το Gemini Spark αρνήθηκε ξανά να ορίσει τη σχέση. Έτσι, ακόμη και αφού ο χρήστης παρείχε στον πράκτορα όλα τα δεδομένα, ένιωσε ότι ο πράκτορας τον γνώριζε ελάχιστα.
Πηγή :WIRED
