Palo Alto Networks: Προειδοποίηση για αυτόνομες επιθέσεις AI. METR: Δυσκολία αξιολόγησης. (Source: the-decoder.com)
Ο οργανισμός METR αντιμετωπίζει σημαντικές δυσκολίες στην αξιολόγηση του Claude Mythos Preview, χρησιμοποιώντας την υφιστάμενη σουίτα δοκιμών του. Συγκεκριμένα, μόλις πέντε από τις συνολικά 228 εργασίες που περιλαμβάνονται καλύπτουν το απαιτούμενο φάσμα δυνατοτήτων του μοντέλου. Παράλληλα, η εταιρεία κυβερνοασφάλειας Palo Alto Networks αναφέρει ότι τα προηγμένα μοντέλα τεχνητής νοημοσύνης (ΑΙ) είναι σε θέση να συνδυάζουν αυτόνομα αλυσίδες τρωτοτήτων, περιορίζοντας τον απαιτούμενο χρόνο από την αρχική πρόσβαση σε ένα σύστημα έως την εκτεταμένη εξαγωγή δεδομένων σε μόλις 25 λεπτά. Η ανάπτυξη των μεθόδων αξιολόγησης εξελίσσεται με βραδύτερους ρυθμούς σε σύγκριση με την εξέλιξη των ίδιων των μοντέλων, γεγονός που ενδέχεται να αποτελεί το μείζον πρόβλημα.
