Mozilla ανακοινώθηκε ότι το Claude Mythos AI της Anthropic εντόπισε 271 τρωτά σημεία στον Firefox κατά τη διάρκεια εσωτερικών δοκιμών, με όλα τα σφάλματα διορθώθηκαν την ίδια εβδομάδα. Αυτό το αποτέλεσμα υπογραμμίζει την ικανότητα των προηγμένων συστημάτων τεχνητής νοημοσύνης να αναλύουν εκτεταμένες βάσεις κωδικών και να εντοπίζουν αδυναμίες που προηγουμένως απαιτούσαν σημαντικό χειροκίνητο έλεγχο. Τα ευρήματα θα μπορούσαν να σηματοδοτήσουν μια μεταμορφωτική στιγμή στην κυβερνοασφάλεια, όπου οι υπερασπιστές αποκτούν το πάνω χέρι έναντι των επιτιθέμενων.
Ο εντοπισμός αυτών των τρωτών σημείων υπογραμμίζει τον αυξανόμενο ρόλο που διαδραματίζει η τεχνητή νοημοσύνη στην ανάλυση ασφάλειας. «Καθώς αυτές οι δυνατότητες φτάνουν στα χέρια περισσότερων αμυντικών, πολλές άλλες ομάδες βιώνουν τώρα τον ίδιο ίλιγγο που είχαμε όταν τα ευρήματα ήρθαν για πρώτη φορά στο επίκεντρο», δήλωσε ο Mozilla. Ο οργανισμός είχε δοκιμάσει νωρίτερα ένα άλλο μοντέλο Anthropic που βρήκε 22 σφάλματα ευαίσθητα στην ασφάλεια σε μια προηγούμενη έκδοση του Firefox.
Παρά αυτές τις εξελίξεις, η Mozilla αναγνώρισε ότι ο κλάδος της κυβερνοασφάλειας αναγνωρίζει τις εγγενείς προκλήσεις στην πλήρη εξάλειψη των εκμεταλλεύσεων λογισμικού. «Μέχρι τώρα, ο κλάδος αγωνιζόταν σε μεγάλο βαθμό για την ασφάλεια», έγραψε η εταιρεία, τονίζοντας τη δέσμευσή της για την ασφάλεια των χρηστών. Η Mozilla σημείωσε ότι το νέο σύστημα τεχνητής νοημοσύνης εντόπισε αποτελεσματικά τρωτά σημεία που προηγουμένως ανιχνεύονταν μόνο από ειδικούς ανθρώπους ερευνητές.
Επιπλέον, η εταιρεία εξέφρασε σκεπτικισμό σχετικά με τις προβλέψεις ότι μελλοντικά μοντέλα τεχνητής νοημοσύνης ενδέχεται να αποκαλύψουν νέους τύπους τρωτών σημείων που υπερβαίνουν την τρέχουσα κατανόηση. «Λογισμικό όπως ο Firefox έχει σχεδιαστεί με αρθρωτό τρόπο ώστε οι άνθρωποι να μπορούν να λογικοποιούν την ορθότητά του», είπε ο Mozilla. Ωστόσο, τα πιο πρόσφατα εργαλεία τεχνητής νοημοσύνης θα μπορούσαν να επιτρέψουν στους προγραμματιστές να εντοπίσουν πολλά τρωτά σημεία πριν από πιθανή εκμετάλλευση.
Το Anthropic’s Mythos, που κυκλοφόρησε τον Μάρτιο, έχει σχεδιαστεί για εργασίες κωδικοποίησης και ασφάλειας στον κυβερνοχώρο, υποδεικνύοντας μια σημαντική πρόοδο πέρα από τα προηγούμενα μοντέλα. Εσωτερικό υλικό φέρεται να αποκάλυψε ότι το σύστημα θα μπορούσε να εντοπίσει χιλιάδες προηγουμένως άγνωστες ευπάθειες σε μεγάλα λειτουργικά συστήματα και προγράμματα περιήγησης ιστού.
Η πρόσβαση στο Mythos περιορίζεται μέσω του Project Glasswing, επιτρέποντας σε επιλεγμένες εταιρείες τεχνολογίας —συμπεριλαμβανομένων των Amazon, Apple και Microsoft— να αξιοποιήσουν το μοντέλο για τη σάρωση λογισμικού για αδυναμίες. Αυτή η πρωτοβουλία αντανακλά μια στροφή του κλάδου προς την χρησιμοποίηση της τεχνητής νοημοσύνης στην προληπτική επιδιόρθωση ευπάθειας.
Ωστόσο, οι ειδικοί σε θέματα ασφάλειας προειδοποιούν επίσης ότι μια τέτοια τεχνολογία μπορεί να επιτρέψει νέες επιθέσεις στον κυβερνοχώρο. Το Ινστιτούτο Ασφάλειας AI του Ηνωμένου Βασιλείου βρήκε το Mythos ικανό να εκτελεί αυτόνομα περίπλοκες επιχειρήσεις στον κυβερνοχώρο, συμπεριλαμβανομένης της προσομοίωσης επιθέσεων δικτύου πολλών σταδίων χωρίς ανθρώπινη παρέμβαση. Το μοντέλο έχει προσελκύσει το ενδιαφέρον κυβερνητικών και μυστικών υπηρεσιών, συμπεριλαμβανομένης της Υπηρεσίας Εθνικής Ασφάλειας (NSA), η οποία φέρεται να τρέχει το Claude Mythos Preview σε απόρρητα δίκτυα.
Οι πρόσφατες εξελίξεις υποδεικνύουν ότι τα υπάρχοντα κριτήρια αξιολόγησης της τεχνητής νοημοσύνης ενδέχεται να μην επαρκούν για την αξιολόγηση των δυνατοτήτων αυτών των νέων μοντέλων. Η Mozilla υποστήριξε ότι αυτές οι εξελίξεις θα μπορούσαν να επιτρέψουν στους αμυντικούς να αμφισβητήσουν τα μακροχρόνια πλεονεκτήματα που έχουν οι επιτιθέμενοι. «Έχουμε γυρίσει τη γωνία και μπορούμε να δούμε ένα μέλλον πολύ καλύτερα από το να συνεχίσουμε απλώς», είπε η Mozilla, προτείνοντας μια αποφασιστική αλλαγή στη δυναμική της κυβερνοασφάλειας.
VIA: dataconomy.com
