Σύνταξη – επιμέλεια: Στέλιος Βασιλούδης
Τις τελευταίες εβδομάδες, ο κόσμος της τεχνητής νοημοσύνης έχει αναστατωθεί μετά τους ισχυρισμούς της κορυφαίας εταιρείας Anthropic σχετικά με το νέο της μοντέλο, Claude Mythos. Η εταιρεία αναφέρει ότι διαπίστωσε πως το εργαλείο μπορεί να ξεπεράσει τους ανθρώπους σε ορισμένες εργασίες hacking και κυβερνοασφάλειας, γεγονός που έχει προκαλέσει συζητήσεις από ρυθμιστικές αρχές, νομοθέτες και χρηματοπιστωτικά ιδρύματα σχετικά με τους κινδύνους που θα μπορούσε να θέσει για τις ψηφιακές υπηρεσίες.
Αρκετοί τεχνολογικοί κολοσσοί έχουν αποκτήσει πρόσβαση στο Mythos μέσω μιας πρωτοβουλίας που ονομάζεται Project Glasswing, η οποία έχει σχεδιαστεί για να ενισχύσει την ανθεκτικότητα στο ίδιο το Mythos. Άλλοι όμως επισημαίνουν ότι είναι προς το συμφέρον της Anthropic να υπονοεί ότι το εργαλείο της έχει δυνατότητες που ο κόσμος δεν έχει ξαναδεί ποτέ, πράγμα που σημαίνει – όπως πάντα με την Τεχνητή Νοημοσύνη – ότι η διαφορά ανάμεσα σε δικαιολογημένους ισχυρισμούς και διαφημιστική εκστρατεία μπορεί να είναι δυσδιάκριτη.
Τι είναι το Claude Mythos;
Το Mythos είναι ένα από τα τελευταία μοντέλα της Anthropic που αναπτύχθηκε στο πλαίσιο του ευρύτερου συστήματος τεχνητής νοημοσύνης της εταιρείας, που ονομάζεται Claude. Περιλαμβάνει τον βοηθό τεχνητής νοημοσύνης και την οικογένεια μοντέλων της εταιρείας, ανταγωνιζόμενο το ChatGPT της OpenAI και το Gemini της Google. Αποκαλύφθηκε από την Anthropic στις αρχές Απριλίου ως «Mythos Preview».
Ερευνητές που δοκιμάζουν τον τρόπο με τον οποίο τα μοντέλα τεχνητής νοημοσύνης χειρίζονται συγκεκριμένα αιτήματα ή εργασίες, γνωστά ως «κόκκινες ομάδες», ανέφεραν σε μια έκθεση ότι το Mythos ήταν «εντυπωσιακά ικανό σε εργασίες ασφάλειας υπολογιστών». Διαπίστωσαν ότι το εργαλείο μπορούσε να εντοπίσει αδρανή σφάλματα που κρύβονταν σε κώδικα δεκαετιών και να τα εκμεταλλευτεί εύκολα.
Έτσι, αντί να το κάνει ευρέως διαθέσιμο στους χρήστες του Claude, η Anthropic έδωσε σε 12 εταιρείες τεχνολογίας πρόσβαση μέσω του Project Glasswing, το οποίο περιέγραψε ως «μια προσπάθεια να ασφαλιστεί το πιο κρίσιμο λογισμικό στον κόσμο». Σε αυτούς περιλαμβάνονται ο γίγαντας του cloud computing, Amazon Web Services, οι κατασκευαστές συσκευών Apple, Microsoft και Google, και οι κατασκευαστές τσιπ Nvidia και Broadcom.
Η Crowdstrike, της οποίας η ελαττωματική ενημέρωση λογισμικού προκάλεσε μια μεγάλη παγκόσμια διακοπή τον Ιούλιο του 2024, είναι επίσης μεταξύ των εταίρων, με την Anthropic να αναφέρει ότι έχει επίσης δώσει πρόσβαση στο Mythos σε περισσότερους από 40 οργανισμούς που είναι υπεύθυνοι για κρίσιμο λογισμικό. Σε ένα βίντεο που κυκλοφόρησε παράλληλα με το Project Glasswing, ο επικεφαλής της Anthropic, Dario Amodei, δήλωσε ότι είχε προσφερθεί να συνεργαστεί με αξιωματούχους της κυβέρνησης των ΗΠΑ για να «βοηθήσει στην άμυνα ενάντια στον κίνδυνο αυτών των μοντέλων».
Γιατί υπάρχουν ανησυχίες;
Η Anthropic αναφέρει ότι κατά τη διάρκεια των δοκιμών διαπίστωσε ότι το μοντέλο ήταν εξαιρετικά επιδέξιο σε εργασίες κυβερνοασφάλειας και hacking, ξεπερνώντας τους ανθρώπους.
«Το Mythos Preview έχει ήδη εντοπίσει χιλιάδες ευπάθειες υψηλής σοβαρότητας, συμπεριλαμβανομένων ορισμένων σε κάθε σημαντικό λειτουργικό σύστημα και πρόγραμμα περιήγησης ιστού», ισχυρίστηκε η Anthropic στις 7 Απριλίου. «Δεδομένου του ρυθμού προόδου της Τεχνητής Νοημοσύνης, δεν θα αργήσει ο πολλαπλασιασμός τέτοιων δυνατοτήτων, ενδεχομένως πέρα από τους φορείς που έχουν δεσμευτεί να τις αναπτύξουν με ασφάλεια».
Η Anthropic ανέφερε ότι το Mythos θα μπορούσε να εντοπίσει – χωρίς ιδιαίτερη εποπτεία – κρίσιμα σφάλματα που χρειάζονται άμεση δράση σε παλιά συστήματα – συμπεριλαμβανομένης μιας ευπάθειας που υπήρχε σε ένα σύστημα επί 27 χρόνια – και να προτείνει τρόπους αξιοποίησής τους. Ορισμένοι υπουργοί Οικονομικών, κεντρικοί τραπεζίτες και χρηματοδότες έχουν έκτοτε εκφράσει σοβαρές ανησυχίες σχετικά με αυτό, φοβούμενοι ότι το μοντέλο θα μπορούσε να υπονομεύσει την ασφάλεια των χρηματοπιστωτικών συστημάτων.
Ο Dario Amodei
Ο Καναδός υπουργός Οικονομικών, Francois – Philippe Champagne, δήλωσε στο BBC ότι το θέμα «Mythos» συζητήθηκε σε συνεδρίαση του Διεθνούς Νομισματικού Ταμείου (ΔΝΤ) στην Ουάσινγκτον αυτή την εβδομάδα. «Σίγουρα είναι αρκετά σοβαρό για να δικαιολογήσει την προσοχή όλων των υπουργών Οικονομικών», είπε, περιγράφοντας την τεχνολογία ως «άγνωστο άγνωστο». Ο επικεφαλής της Τράπεζας της Αγγλίας, Andrew Bailey, δήλωσε ότι «πρέπει να εξετάσουμε πολύ προσεκτικά τώρα τι θα μπορούσε να σημαίνει αυτή η τελευταία εξέλιξη της τεχνητής νοημοσύνης για τον κίνδυνο κυβερνοεγκλήματος». Εν τω μεταξύ, η ΕΕ έχει δηλώσει ότι βρίσκεται επίσης σε συζητήσεις με την Anthropic σχετικά με τις ανησυχίες της για το Mythos.
Τι έχουν πει για αυτό οι ειδικοί στον κυβερνοχώρο;
Ο Ciaran Martin, πρώην επικεφαλής του Εθνικού Κέντρου Κυβερνοασφάλειας (NSCS) του Ηνωμένου Βασιλείου, δήλωσε στο BBC νωρίτερα αυτήν την εβδομάδα ότι ο ισχυρισμός πως το Mythos θα μπορούσε να αποκαλύψει κρίσιμα τρωτά σημεία πολύ πιο γρήγορα από ό,τι άλλα μοντέλα τεχνητής νοημοσύνης είχε «πραγματικά συγκινήσει τους ανθρώπους». «Το δεύτερο είναι ότι ακόμη και με τις υπάρχουσες αδυναμίες που γνωρίζουμε – αλλά οι οργανισμοί δεν έχουν διορθώσει – μπορεί να μην είναι καλά προστατευμένοι. Είναι απλά ένας πολύ καλός χάκερ», είπε.
Πολλοί ανεξάρτητοι αναλυτές και ειδικοί στον τομέα της κυβερνοασφάλειας δεν έχουν ακόμη καταφέρει να δοκιμάσουν το μοντέλο οι ίδιοι και ορισμένοι παραμένουν επιφυλακτικοί σχετικά με την απόδοση του Mythos. Το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου κατέληξε πρόσφατα στο συμπέρασμα ότι, ενώ πρόκειται για ένα πολύ ισχυρό μοντέλο, η μεγαλύτερη απειλή του θα ήταν τα κακώς προστατευμένα, ευάλωτα συστήματα.
«Δεν μπορούμε να πούμε με βεβαιότητα εάν το Mythos θα μπορούσε να επιτεθεί σε καλά προστατευμένα συστήματα», ανέφεραν οι ερευνητές του. Έτσι, όπου υπάρχει καλή κυβερνοασφάλεια, αυτό το μοντέλο – θεωρητικά – ελπίζουμε να ανασχεθεί.
Πρέπει να ανησυχούμε για αυτό;
Οι φόβοι που σχετίζονται με την Τεχνητή Νοημοσύνη δεν είναι κάτι καινούργιο.
Νέα μοντέλα και εργαλεία κυκλοφορούν συνεχώς και συχνά συνοδεύονται από υποσχέσεις που θα φέρουν επανάσταση στη ζωή μας, προς το καλύτερο ή το χειρότερο. Η αξιοποίηση αυτού του μείγματος φόβου και ενθουσιασμού για την Τεχνητή Νοημοσύνη και τον μελλοντικό αντίκτυπό της έχει επίσης γίνει σήμα κατατεθέν του τομέα και των στρατηγικών του στο μάρκετινγκ τα τελευταία χρόνια. Στην περίπτωση του Mythos, δεν γνωρίζουμε ακόμη αρκετά για να καταλάβουμε αν αυτές οι ελπίδες ή οι φόβοι είναι δικαιολογημένοι ή αν αντικατοπτρίζουν μάλλον τον ενθουσιασμό που υπάρχει γύρω από τον κλάδο.
Και στις δύο περιπτώσεις, σύμφωνα με το NSCS, το πιο σημαντικό πράγμα που μπορούμε να κάνουμε τώρα είναι να μην πανικοβληθούμε και να επικεντρωθούμε στην ανάγκη να αποκτήσουμε σωστά τα βασικά μέτρα κυβερνοασφάλειας. Άλλωστε, οι περισσότεροι χάκερ δεν χρειάζονται υπερ – εργαλεία τεχνητής νοημοσύνης για να παραβιάσουν συστήματα, όταν συχνά αρκούν πολύ απλούστερες επιθέσεις. «Για κάποιους αυτό είναι ένα γεγονός Αποκάλυψης, για άλλους φαίνεται να είναι πολύ διαφημιστικό», δήλωσε ο Martin στο BBC.
Όμως, πρόσθεσε ότι είτε επρόκειτο για αυτό το εργαλείο είτε για μεταγενέστερα εργαλεία που θα κατασκευαστούν από την Anthropic ή τους ανταγωνιστές της, παράλληλα με τον κίνδυνο υπήρχε και η ευκαιρία να οικοδομηθεί ένας ασφαλέστερος διαδικτυακός κόσμος.
«Μεσοπρόθεσμα, υπάρχει η ευκαιρία να χρησιμοποιηθούν αυτά τα εργαλεία για να διορθωθούν πολλά από τα υποκείμενα τρωτά σημεία στο διαδίκτυο», κατέληξε.
Πηγή: BBC News
VIA: www.zougla.gr
