Ο Francis de Souza, Διευθύνων Σύμβουλος Επιχειρησιακών Λειτουργιών (COO) της Google Cloud, υπογράμμισε την κρίσιμη ανάγκη οι εταιρείες να ενσωματώσουν την ασφάλεια ως θεμελιώδες στοιχείο στην στρατηγική τους για την τεχνητή νοημοσύνη (AI) από την πρώτη κιόλας ημέρα της ανάπτυξής της. Η τοποθέτηση αυτή έγινε σε πρόσφατη εκδήλωση στο Λος Άντζελες, όπου ο κ. de Souza τόνισε ότι η ασφάλεια της AI πρέπει να αποτελεί αντικείμενο συζήτησης και αποφάσεων στο διοικητικό συμβούλιο, και όχι απλώς ένα τεχνικό ζήτημα που περιορίζεται στο server room. “There’s no such thing as an AI strategy without a data strategy and a security strategy” δήλωσε χαρακτηριστικά.
Σύμφωνα με δημοσίευμα του TechCrunch, ο ανώτερος στέλεχος της Google Cloud εξέφρασε επίσης σοβαρές προειδοποιήσεις σχετικά με την εμφάνιση και τους κινδύνους της “σκιώδους” τεχνητής νοημοσύνης (AI). “Employees using AI tools without company oversight—and about AI agents that dig up forgotten data sources like old SharePoint servers buried inside organizations.”
The attack surface has grown well beyond the traditional network perimeter. Ο κ. de Souza επεσήμανε ότι το τοπίο της κυβερνοασφάλειας έχει διευρυνθεί σημαντικά με την έλευση της AI. Πέραν των παραδοσιακών ψηφιακών περιουσιακών στοιχείων που απαιτούν προστασία, οι οργανισμοί καλούνται πλέον να διασφαλίσουν μια νέα κατηγορία στοιχείων. Αυτά περιλαμβάνουν τα ίδια τα μοντέλα τεχνητής νοημοσύνης, τους αγωγούς δεδομένων που χρησιμοποιούνται για την εκπαίδευση και την τροφοδοσία αυτών των μοντέλων, τους αυτόνομους πράκτορες (agents) που εκτελούν εργασίες, καθώς και τις προτροπές (prompts) που καθοδηγούν τη συμπεριφορά των συστημάτων AI. Όλα αυτά τα νέα στοιχεία αποτελούν κρίσιμα σημεία εισόδου για πιθανές απειλές και απαιτούν ολοκληρωμένη προστασία. ” The time between an initial breach and the next stage of an attack has dropped from eight hours to 22 seconds. De Souza is pushing for agent-based defense: ”
Επιπλέον, ο Francis de Souza ανέδειξε μια σημαντική εξέλιξη στον τομέα της άμυνας έναντι των κυβερνοαπειλών. Τόνισε τη δυνατότητα μετάβασης από ένα μοντέλο άμυνας που βασίζεται κυρίως σε ανθρώπινη καθοδήγηση ή απαιτεί συνεχή ανθρώπινη παρέμβαση, σε ένα πιο προηγμένο σύστημα. Σε αυτό το νέο πλαίσιο, οι άνθρωποι θα έχουν τον ρόλο της επίβλεψης μιας πλήρως αυτοματοποιημένης άμυνας, η οποία θα λειτουργεί μέσω έξυπνων πράκτορων (agentic defense). Αυτή η προσέγγιση μπορεί να προσφέρει ταχύτερη και πιο αποτελεσματική απόκριση σε απειλές, μειώνοντας παράλληλα το ανθρώπινο λάθος. `” AI security is a boardroom issue, he argued, not just an IT department problem.
Ο COO της Google Cloud υπογράμμισε με έμφαση ότι η ασφάλεια δεν πρέπει να αντιμετωπίζεται ως ένα συμπληρωματικό χαρακτηριστικό που μπορεί να προστεθεί εκ των υστέρων σε ένα σύστημα AI. Αντιθέτως, πρέπει να ενσωματώνεται στον πυρήνα του σχεδιασμού και της υλοποίησης. Επίσης, τόνισε ότι η ευθύνη για την ασφάλεια δεν μπορεί να αφεθεί αποκλειστικά στους μεμονωμένους εργαζομένους να τη διαχειριστούν αυτόνομα, αλλά απαιτεί μια συστηματική και οργανωμένη προσέγγιση από την ηγεσία της εταιρείας ” de Souza said. According to him, companies need a unified security strategy across all clouds and models, even if they think they’re only using one provider. SaaS apps and business partners almost always bring multiple clouds into the mix.
Πηγή: TechCrunch
