Ανθρωπός Διευθύνων Σύμβουλος Dario Amodei δημοσιευμένος Ένα δοκίμιο την Πέμπτη υπογραμμίζοντας την περιορισμένη κατανόηση των εσωτερικών λειτουργιών των κορυφαίων μοντέλων AI και καθόρισε τον στόχο για την ανθρωπότητα να ανιχνεύσει αξιόπιστα τα περισσότερα προβλήματα μοντέλων AI μέχρι το 2027.
Ο Amodei αναγνωρίζει την πρόκληση μπροστά, δηλώνοντας ότι ενώ ο Anthropic έχει κάνει πρώιμες ανακαλύψεις στην ανίχνευση του τρόπου με τον οποίο τα μοντέλα φτάνουν στις απαντήσεις τους, απαιτείται περισσότερη έρευνα για να αποκωδικοποιήσει αυτά τα συστήματα καθώς μεγαλώνουν πιο ισχυρά. “Ανησυχώ πολύ για την ανάπτυξη τέτοιων συστημάτων χωρίς καλύτερη λαβή για την ερμηνεία”, έγραψε ο Amodei, υπογραμμίζοντας τον κεντρικό τους ρόλο στην οικονομία, την τεχνολογία και την εθνική ασφάλεια.
Ο ανθρωπός είναι πρωτοπόρος στη μηχανιστική ερμηνεία, με στόχο να καταλάβει γιατί τα μοντέλα AI λαμβάνουν ορισμένες αποφάσεις. Παρά τις ταχείες βελτιώσεις απόδοσης, ο κλάδος εξακολουθεί να έχει περιορισμένη εικόνα για τον τρόπο με τον οποίο τα συστήματα αυτά καταλήγουν σε αποφάσεις. Για παράδειγμα, η νέα συλλογιστική της OpenAI, τα μοντέλα AI, O3 και O4-Mini, αποδίδουν καλύτερα σε ορισμένα καθήκοντα, αλλά παραισθώνουν περισσότερο από άλλα μοντέλα, με την εταιρεία να μην είναι σίγουρος γιατί.
Η Amodei σημειώνει ότι οι ερευνητές της AI έχουν βελτιώσει τη νοημοσύνη μοντέλου, αλλά δεν καταλαβαίνουν πλήρως γιατί λειτουργούν αυτές οι βελτιώσεις. Ο ανθρωπογενής συνιδρυτής Chris Olah λέει ότι τα μοντέλα AI “καλλιεργούνται περισσότερο από ό, τι είναι χτισμένα”. Η Amodei προειδοποιεί ότι η επίτευξη AGI χωρίς να κατανοεί πώς τα μοντέλα λειτουργούν θα μπορούσαν να είναι επικίνδυνα και πιστεύουν ότι είμαστε περισσότερο από την κατανόηση των μοντέλων AI από την επίτευξη AGI, ενδεχομένως μέχρι το 2026 ή το 2027.
Ο ανθρωπός στοχεύει στη διεξαγωγή “σαρώσεων εγκεφάλου” ή “MRIS” των τελευταίων μοντέλων ΑΙ για τον εντοπισμό ζητημάτων, συμπεριλαμβανομένων των τάσεων που βρίσκονται ή αναζητούν εξουσία. Αυτό θα μπορούσε να διαρκέσει πέντε έως 10 χρόνια, αλλά θα είναι απαραίτητο για τη δοκιμή και την ανάπτυξη μελλοντικών μοντέλων. Η εταιρεία έχει πραγματοποιήσει ανακαλύψεις στην ανίχνευση μονοπατιών σκέψης μοντέλου AI μέσω “κυκλωμάτων” και εντόπισε ένα κύκλωμα που βοηθά τα μοντέλα να κατανοήσουν τις θέσεις των πόλεων των ΗΠΑ μέσα στα κράτη.
Η Anthropic έχει επενδύσει στην έρευνα ερμηνείας και πρόσφατα έκανε την πρώτη της επένδυση σε μια εκκίνηση που εργάζεται στον τομέα. Η Amodei πιστεύει ότι εξηγεί πώς τα μοντέλα AI φτάνουν στις απαντήσεις θα μπορούσαν να παρουσιάσουν ένα εμπορικό πλεονέκτημα. Κάλεσε το OpenAI και το Google DeepMind να αυξήσουν τις ερευνητικές τους προσπάθειες και ζήτησαν από τις κυβερνήσεις να επιβάλουν κανονισμούς “ελαφρού άξονα” για να ενθαρρύνουν την έρευνα ερμηνείας.
Η Amodei πρότεινε επίσης ότι οι ΗΠΑ θα πρέπει να επιβάλλουν ελέγχους των εξαγωγών στις μάρκες στην Κίνα για να περιορίσουν την πιθανότητα ενός παγκόσμιου αγώνα AI εκτός ελέγχου. Η Anthropic έχει επικεντρωθεί στην ασφάλεια, εκδίδοντας μέτρια υποστήριξη για το νομοσχέδιο ασφαλείας της Καλιφόρνια, SB 1047, το οποίο θα είχε θέσει πρότυπα αναφοράς για την αναφορά ασφαλείας για τους προγραμματιστές μοντέλων AI Frontier.
Ο Anthropic πιέζει για μια προσπάθεια σε ολόκληρο τον κλάδο για να κατανοήσει καλύτερα τα μοντέλα AI, όχι μόνο να αυξήσει τις δυνατότητές τους. Οι προσπάθειες και οι συστάσεις της εταιρείας υπογραμμίζουν την ανάγκη για μια συνεργατική προσέγγιση για την ασφάλεια και την ερμηνεία της AI.
VIA: DataConomy.com
