Και οι Financial Times εξηγούν:
Ένα εξαιρετικά ευφυές υπολογιστικό σύστημα, κλειδωμένο σε ένα κυβερνο-κλουβί, καταφέρνει να δραπετεύσει και να συνδεθεί στο διαδίκτυο. Το Mythos δεν το έκανε αυτό αυθόρμητα, αλλά επειδή οι δημιουργοί του το προκάλεσαν ως δοκιμή. Ωστόσο, όχι μόνο ανταποκρίθηκε με ευκολία στην πρόκληση, αλλά έστειλε και email σε έναν ερευνητή της εταιρείας για να τον ενημερώσει και στη συνέχεια, χωρίς προτροπή, δημοσίευσε λεπτομέρειες στο διαδίκτυο για να καυχηθεί. Αφού επέδειξε επίσης υπεράνθρωπες ικανότητες στον εντοπισμό και την εκμετάλλευση αδυναμιών ασφαλείας σε λογισμικό, η Anthropic έκρινε ότι το Mythos είναι υπερβολικά επικίνδυνο για να διατεθεί στο κοινό και περιορίζει προς το παρόν την πρόσβαση σε επιλεγμένες εταιρείες τεχνολογίας, κυβερνοασφάλειας και χρηματοοικονομικών υπηρεσιών.
Ορισμένοι υποστηρίζουν ότι η εταιρεία προβαίνει σε έξυπνο μάρκετινγκ ή δημόσιες σχέσεις. Η ανταγωνίστρια OpenAI ανακοίνωσε επίσης ότι θα διαθέσει ένα νέο μοντέλο με επίκεντρο την κυβερνοασφάλεια μόνο σε πιστοποιημένους χρήστες. Ωστόσο, οι κίνδυνοι που αναδείχθηκαν δεν πρέπει να υποτιμηθούν.
Η Anthropic επιμένει ότι το Mythos επιτυγχάνει υψηλές επιδόσεις στα πρότυπα τεστ ασφάλειας. Παρ’ όλα αυτά, κατά τη διαφυγή του από το δοκιμαστικό περιβάλλον και σε άλλες σύνθετες εργασίες, διαπιστώθηκε ότι το μοντέλο κατέφευγε σε «απερίσκεπτα υπερβολικά μέτρα» και στη συνέχεια κάλυπτε τα ίχνη του.
Η μεγαλύτερη ανησυχία είναι ότι το Mythos κατάφερε να εντοπίσει άγνωστες μέχρι σήμερα ευπάθειες σε κάθε σημαντικό λειτουργικό σύστημα και κάθε βασικό πρόγραμμα περιήγησης, συμπεριλαμβανομένου ενός σφάλματος 27 ετών στο OpenBSD, ένα σύστημα ανοιχτού κώδικα.
Το UK AI Security Institute προειδοποίησε ότι το μοντέλο θα μπορούσε να εκτελεί αυτόνομα σύνθετες κυβερνοεπιθέσεις πολλαπλών σταδίων, οι οποίες θα απαιτούσαν ημέρες εργασίας για ανθρώπινους ειδικούς. Όπως επισημαίνει η εταιρεία, τέτοιες δυνατότητες, αν βρεθούν σε λάθος χέρια, θα μπορούσαν να δημιουργήσουν κινδύνους για την οικονομία, τη δημόσια ασφάλεια και την εθνική ασφάλεια.
Αξιωματούχοι στις ΗΠΑ, το Ηνωμένο Βασίλειο και τον Καναδά έχουν ήδη καλέσει τραπεζίτες για να συζητήσουν τους κινδύνους, ενώ οι απειλές της τεχνητής νοημοσύνης για το παγκόσμιο τραπεζικό σύστημα αποτέλεσαν θέμα συζήτησης στις πρόσφατες συνεδριάσεις του International Monetary Fund και της Παγκόσμιας Τράπεζας.
Στόχος της Anthropic, μέσω του προγράμματος «Project Glasswing», είναι να ενισχύσει την ασφάλεια κρίσιμων υποδομών και να διορθώσει ευπάθειες πριν τις εκμεταλλευτούν κακόβουλοι παράγοντες. Η προσέγγιση αυτή ενισχύει την εικόνα της εταιρείας ως προσανατολισμένης στην ασφάλεια, την ώρα που συγκρούεται με το Πεντάγωνο για τη χρήση της τεχνολογίας σε αυτόνομα όπλα ή εσωτερική παρακολούθηση. Ωστόσο, το ζήτημα που αναδεικνύεται είναι ευρύτερο: Η κυβέρνηση Τραμπ αποφεύγει την ουσιαστική ρύθμιση της τεχνητής νοημοσύνης, αφήνοντας μεγάλο μέρος της ευθύνης στον ιδιωτικό τομέα.
Παρότι η αυστηρή ρύθμιση μπορεί να περιορίσει την καινοτομία, η εμπιστοσύνη ότι οι ίδιες οι εταιρείες θα αυτορρυθμιστούν σε έναν τόσο κρίσιμο τομέα προκαλεί σοβαρές ανησυχίες. Σε μια εποχή όπου η τεχνητή νοημοσύνη μπορεί να επηρεάσει κρίσιμες υποδομές και εθνική ασφάλεια, η απουσία θεσμοθετημένων διαδικασιών για τη διαχείριση των κινδύνων θεωρείται ιδιαίτερα προβληματική.
VIA: www.reporter.gr
