Ο ερευνητής ασφαλείας, κ. Dor Zvi, και η ομάδα του στην εταιρεία κυβερνοασφάλειας RedAccess, την οποία συνίδρυσε, πραγματοποίησαν μια εκτενή ανάλυση χιλιάδων διαδικτυακών εφαρμογών που αναπτύχθηκαν με τη χρήση εργαλείων τεχνητής νοημοσύνης (AI) για την ανάπτυξη λογισμικού, όπως τα Lovable, Replit, Base44 και Netlify. Κατά τη διάρκεια αυτής της ανάλυσης, εντοπίστηκαν περισσότερες από 5.000 τέτοιες εφαρμογές οι οποίες δεν διέθεταν σχεδόν κανένα επίπεδο ασφάλειας ή μηχανισμό πιστοποίησης οποιουδήποτε είδους. Ένα σημαντικό μέρος αυτών των διαδικτυακών εφαρμογών επέτρεπε την πρόσβαση σε αυτές και στα δεδομένα τους σε οποιονδήποτε απλώς ανακάλυπτε τη διεύθυνση URL τους, χωρίς περαιτέρω εμπόδια ή απαιτήσεις. Άλλες εφαρμογές είχαν μόνο ασήμαντα εμπόδια στην πρόσβαση, όπως η απαίτηση από έναν επισκέπτη να συνδεθεί χρησιμοποιώντας οποιαδήποτε διεύθυνση ηλεκτρονικού ταχυδρομείου. Περίπου το 40% των εφαρμογών αυτών, σύμφωνα με τον κ. Zvi, εξέθεταν ευαίσθητα δεδομένα, συμπεριλαμβανομένων ιατρικών πληροφοριών, οικονομικών δεδομένων, εταιρικών παρουσιάσεων και εγγράφων στρατηγικής, καθώς και λεπτομερών αρχείων καταγραφής συνομιλιών πελατών με chatbots.
«Το τελικό αποτέλεσμα είναι ότι οι οργανισμοί διαρρέουν στην πραγματικότητα ιδιωτικά δεδομένα μέσω εφαρμογών vibe-coding», δηλώνει ο κ. Zvi. «Αυτό είναι ένα από τα μεγαλύτερα γεγονότα που έχουν συμβεί ποτέ, όπου άνθρωποι εκθέτουν εταιρικές ή άλλες ευαίσθητες πληροφορίες σε οποιονδήποτε στον κόσμο».
Ο κ. Zvi αναφέρει ότι η διαδικασία αναζήτησης ευάλωτων διαδικτυακών εφαρμογών από την RedAccess ήταν εκπληκτικά εύκολη. Οι πλατφόρμες Lovable, Replit, Base44 και Netlify παρέχουν όλες τη δυνατότητα στους χρήστες να φιλοξενούν τις διαδικτυακές τους εφαρμογές στους δικούς τους τομείς (domains) των εταιρειών τεχνητής νοημοσύνης, αντί στους τομείς των ίδιων των χρηστών. Ως εκ τούτου, οι ερευνητές χρησιμοποίησαν απλές αναζητήσεις μέσω Google και Bing για τους τομείς αυτών των εταιρειών τεχνητής νοημοσύνης, σε συνδυασμό με άλλους όρους αναζήτησης, προκειμένου να εντοπίσουν χιλιάδες εφαρμογές που είχαν κωδικοποιηθεί με τα εργαλεία των εταιρειών.
Από τις 5.000 εφαρμογές που κωδικοποιήθηκαν με τεχνητή νοημοσύνη και, σύμφωνα με τον κ. Zvi, παρέμειναν δημόσια προσβάσιμες σε οποιονδήποτε απλώς πληκτρολογούσε τις διευθύνσεις URL τους σε ένα πρόγραμμα περιήγησης, ο ίδιος εντόπισε σχεδόν 2.000 οι οποίες, μετά από ενδελεχή εξέταση, φάνηκε να αποκαλύπτουν ιδιωτικά δεδομένα. Στιγμιότυπα οθόνης διαδικτυακών εφαρμογών που μοιράστηκε με το WIRED —αρκετά από τα οποία το WIRED επιβεβαίωσε ότι ήταν ακόμα online και εκτεθειμένα— έδειχναν αυτό που φαινόταν να είναι οι αναθέσεις εργασίας ενός νοσοκομείου με προσωπικά αναγνωρίσιμες πληροφορίες γιατρούς, λεπτομερείς πληροφορίες αγοράς διαφημίσεων μιας εταιρείας, αυτό που φαινόταν να είναι μια παρουσίαση στρατηγικής εισόδου στην αγορά μιας άλλης εταιρείας, πλήρη αρχεία καταγραφής των συνομιλιών του chatbot ενός λιανοπωλητή με πελάτες, συμπεριλαμβανομένων των πλήρων ονομάτων και στοιχείων επικοινωνίας των πελατών, αρχεία φορτίων μιας ναυτιλιακής εταιρείας, καθώς και διάφορα αρχεία πωλήσεων και οικονομικά αρχεία από μια ποικιλία άλλων εταιρειών. Σε ορισμένες περιπτώσεις, ο κ. Zvi αναφέρει ότι διαπίστωσε πως οι εκτεθειμένες εφαρμογές θα του επέτρεπαν να αποκτήσει διαχειριστικά προνόμια σε συστήματα και ακόμη και να αφαιρέσει άλλους διαχειριστές.
Στην περίπτωση της Lovable, ο κ. Zvi αναφέρει ότι βρήκε επίσης πολυάριθμα παραδείγματα ιστοσελίδων phishing που υποδύονταν μεγάλες εταιρείες, συμπεριλαμβανομένων των Bank of America, Costco, FedEx, Trader Joe’s και McDonald’s, οι οποίες φάνηκε να έχουν δημιουργηθεί με το εργαλείο κωδικοποίησης τεχνητής νοημοσύνης και να φιλοξενούνται στον τομέα της Lovable.
Όταν το WIRED ζήτησε από τις τέσσερις εταιρείες κωδικοποίησης τεχνητής νοημοσύνης να σχολιάσουν τα ευρήματα της RedAccess, η Netlify δεν απάντησε, αλλά οι άλλες τρεις εταιρείες αντέδρασαν στους ισχυρισμούς των ερευνητών και διαμαρτυρήθηκαν ότι δεν είχαν μοιραστεί αρκετά από τα ευρήματά τους ή δεν τους είχαν δώσει αρκετό χρόνο για να απαντήσουν. (Η RedAccess αναφέρει ότι επικοινώνησε με τις εταιρείες τη Δευτέρα.) Ωστόσο, δεν αρνήθηκαν ότι οι διαδικτυακές εφαρμογές που βρήκε η RedAccess είχαν μείνει εκτεθειμένες.
«Από τις περιορισμένες πληροφορίες που μοιράστηκαν, [ο] βασικός ισχυρισμός [της RedAccess] φαίνεται να είναι ότι ορισμένοι χρήστες έχουν δημοσιεύσει εφαρμογές στον ανοιχτό ιστό που θα έπρεπε να ήταν ιδιωτικές», έγραψε ο Διευθύνων Σύμβουλος της Replit, κ. Amjad Masad, σε μια απάντηση ανάρτηση στο X. «Η Replit επιτρέπει στους χρήστες να επιλέγουν αν οι εφαρμογές είναι δημόσιες ή ιδιωτικές. Η πρόσβαση σε δημόσιες εφαρμογές στο διαδίκτυο είναι αναμενόμενη συμπεριφορά. Οι ρυθμίσεις απορρήτου μπορούν να αλλάξουν ανά πάσα στιγμή με ένα μόνο κλικ».
Ένας εκπρόσωπος της Lovable απάντησε σε δήλωση ότι «η Lovable λαμβάνει σοβαρά υπόψη τις αναφορές για εκτεθειμένα δεδομένα και ιστοσελίδες phishing, και εργαζόμαστε ενεργά για να αποκτήσουμε ό,τι χρειαζόμαστε για να διερευνήσουμε. Το αντιμετωπίζουμε ως ένα εν εξελίξει ζήτημα. Αξίζει επίσης να σημειωθεί ότι η Lovable παρέχει στους δημιουργούς τα εργαλεία για να δημιουργούν με ασφάλεια, αλλά το πώς διαμορφώνεται μια εφαρμογή είναι τελικά ευθύνη του δημιουργού».
Η κ. Blake Brodie, επικεφαλής δημοσίων σχέσεων της μητρικής εταιρείας της Base44, Wix, έγραψε σε δήλωση ότι «η Base44 παρέχει στους χρήστες ισχυρά εργαλεία για τη διαμόρφωση της ασφάλειας των δικών τους εφαρμογών, συμπεριλαμβανομένων των ελέγχων πρόσβασης και των ρυθμίσεων ορατότητας». Πρόσθεσε ότι «η απενεργοποίηση αυτών των ελέγχων είναι μια σκόπιμη, απλή ενέργεια, οποιοσδήποτε χρήστης μπορεί να το κάνει. Όπου οι εφαρμογές ήταν δημόσια προσβάσιμες, αυτό αντικατοπτρίζει μια επιλογή διαμόρφωσης χρήστη, όχι μια ευπάθεια της πλατφόρμας».
Η κ. Brodie σημείωσε επίσης ότι «είναι εξαιρετικά εύκολο να κατασκευαστούν εφαρμογές που φαίνεται να περιέχουν πραγματικά δεδομένα χρήστη. Χωρίς ένα μόνο επαληθευμένο παράδειγμα που να μας έχει παρασχεθεί, δεν έχουμε τρόπο να αξιολογήσουμε την εγκυρότητα αυτών των ισχυρισμών». Η RedAccess, από την πλευρά της, αμφισβήτησε ότι δεν είχε παράσχει παραδείγματα στην Base44.
Ο κ. Zvi σημειώνει ότι για μερικές δεκάδες εκτεθειμένες διαδικτυακές εφαρμογές, προχώρησε τόσο μακριά ώστε να επικοινωνήσει με τον φαινομενικό ιδιοκτήτη της εφαρμογής, ο οποίος επιβεβαίωσε ότι τα δεδομένα είχαν εκτεθεί. Η RedAccess μοιράστηκε επίσης με το WIRED ανωνυμοποιημένες επικοινωνίες σε αρκετές περιπτώσεις που έδειχναν χρήστες της Base44 να ευχαριστούν τους ερευνητές για την ειδοποίησή τους σχετικά με εκτεθειμένες διαδικτυακές εφαρμογές, οι οποίες στη συνέχεια ασφαλίστηκαν ή τέθηκαν εκτός λειτουργίας.
Η επαλήθευση του κατά πόσον πραγματικά δεδομένα έχουν εκτεθεί σε οποιαδήποτε συγκεκριμένη μη ασφαλισμένη διαδικτυακή εφαρμογή που κωδικοποιήθηκε με τεχνητή νοημοσύνη μπορεί να είναι δύσκολη, δηλώνει ο κ. Joel Margolis, ερευνητής ασφαλείας ο οποίος, μαζί με έναν συνάδελφο, ανακάλυψε πρόσφατα ότι ένα παιχνίδι συνομιλίας τεχνητής νοημοσύνης είχε εκθέσει 50.000 συνομιλίες που είχε το παιχνίδι με παιδιά σε έναν ιστότοπο με σχεδόν καμία ασφάλεια. Τα δεδομένα σε μια διαδικτυακή εφαρμογή vibe-coded μπορεί να είναι ένα placeholder, λέει, ή η εφαρμογή μπορεί να είναι απλώς μια απόδειξη ιδέας. Η κ. Brodie της Wix υποστήριξε ότι δύο παραδείγματα που το WIRED μοιράστηκε με την Base44 φάνηκε να είναι δοκιμαστικοί ιστότοποι ή να έχουν δεδομένα που δημιουργήθηκαν από τεχνητή νοημοσύνη.
Για τις διαδικτυακές εφαρμογές που εξέτασε το WIRED, δεν ήταν δυνατόν να επιβεβαιωθεί ότι τα προσωπικά ή εταιρικά δεδομένα ήταν τόσο ευαίσθητα —ή πραγματικά— όσο φαινόταν να είναι.
Ο κ. Margolis, ωστόσο, δηλώνει ότι το πρόβλημα των διαδικτυακών εφαρμογών που δημιουργούνται με τεχνητή νοημοσύνη και εκθέτουν δεδομένα είναι πολύ πραγματικό. Αναφέρει ότι συχνά συναντά ακριβώς το είδος των εκθέσεων που κατέγραψε ο κ. Zvi. «Κάποιος από μια ομάδα μάρκετινγκ θέλει να δημιουργήσει έναν ιστότοπο. Δεν είναι μηχανικός και πιθανότατα έχει ελάχιστο έως καθόλου υπόβαθρο ή γνώση ασφάλειας», λέει ο κ. Margolis. Τα εργαλεία κωδικοποίησης τεχνητής νοημοσύνης, λέει, «κάνουν αυτό που τους ζητάτε να κάνουν. Και εκτός αν τους ζητήσετε να το κάνουν με ασφάλεια, δεν πρόκειται να κάνουν κάτι παραπάνω για να το επιτύχουν».
Ο κ. Zvi επισημαίνει ότι οι 5.000 εκτεθειμένες εφαρμογές που βρήκε η RedAccess ήταν μόνο αυτές που φιλοξενούνταν στους δικούς τους τομείς των εργαλείων κωδικοποίησης τεχνητής νοημοσύνης, και ότι πιθανότατα χιλιάδες ακόμη φιλοξενούνται στους δικούς τους αγορασμένους τομείς των χρηστών. Συγκρίνει τη συνεχιζόμενη πλημμύρα εκθέσεων δεδομένων που προκύπτουν από τις μη ασφαλισμένες διαδικτυακές εφαρμογών που κωδικοποιήθηκαν με τεχνητή νοημοσύνη των εταιρειών με την επιδημία των εκτεθειμένων κάδων αποθήκευσης S3 που δημιουργήθηκαν τα προηγούμενα χρόνια. Εταιρείες από τη Verizon έως την World Wrestling Entertainment εξέθεσαν κατά λάθος πλήθος ευαίσθητων δεδομένων λόγω λανθασμένων διαμορφώσεων στην περίπτωση της υπηρεσίας αποθήκευσης cloud της Amazon. Ωστόσο, πολλοί στον κλάδο της κυβερνοασφάλειας κατηγόρησαν εν μέρει και την Amazon για τις συγκεχυμένες ρυθμίσεις ασφαλείας που οδήγησαν τόσους πολλούς πελάτες να κάνουν τα ίδια λάθη.
Τα εργαλεία κωδικοποίησης διαδικτυακών εφαρμογών τεχνητής νοημοσύνης δημιουργούν τώρα ένα κύμα εκθέσεων δεδομένων, αποτέλεσμα ενός παρόμοιου συνδυασμού σφάλματος χρήστη και έλλειψης διασφαλίσεων, δηλώνει ο κ. Zvi. Ωστόσο, πιο θεμελιώδες από οποιαδήποτε συγκεκριμένη αποτυχία ασφαλείας εκ μέρους των εταιρειών κωδικοποίησης τεχνητής νοημοσύνης, υποστηρίζει, είναι απλώς ότι αυτά τα εργαλεία επιτρέπουν σε μια νέα κατηγορία ανθρώπων εντός των οργανισμών να δημιουργούν εφαρμογές —συχνά με μικρή επίγνωση ασφάλειας και εκτός των συνήθων διαδικασιών ανάπτυξης λογισμικού που χρησιμοποιούν οι εταιρείες για την αξιολόγηση των εφαρμογών πριν κυκλοφορήσουν.
«Οποιοσδήποτε από την εταιρεία σας ανά πάσα στιγμή μπορεί να δημιουργήσει μια εφαρμογή, και αυτό δεν περνάει από κανέναν κύκλο ανάπτυξης ή κανέναν έλεγχο ασφαλείας», λέει ο κ. Zvi. «Οι άνθρωποι μπορούν απλώς να αρχίσουν να τη χρησιμοποιούν στην παραγωγή χωρίς να ρωτήσουν κανέναν. Και το κάνουν».
