Όλοι μιλούν για το πόσο ισχυρό έχει γίνει η τεχνητή νοημοσύνη. Αλλά είναι επίσης γνωστό ότι κάνει λάθη. Μερικές φορές τα “ελαττώματα” είναι τεράστια, όπως ο Claude που διαγράφει ολόκληρη τη βάση δεδομένων μιας εκκίνησης σε 9 δευτερόλεπτα. άλλες φορές, τα προβλήματα με την τεχνητή νοημοσύνη είναι απλά ενοχλητικά.
Πάρτε για παράδειγμα το τρέχον “goblin glitch”. Τις τελευταίες εβδομάδες, το Διαδίκτυο έχει καθηλωθεί στον τρόπο με τον οποίο το ChatGPT άρχισε να διολισθαίνει τη λέξη «καλικάντζαρος» σε εντελώς φυσιολογικές απαντήσεις. Οι συμβουλές κωδικοποίησης, οι συμβουλές φωτογραφίας, ακόμη και οι καθημερινές εξηγήσεις έγιναν ξαφνικά πολύ περίεργες.
Το άρθρο συνεχίζεται παρακάτω
Αντί να πει “σφάλμα” ή “πρόβλημα”, θα έλεγε “καλικάντζαρος”. Αντί για “πρόβλημα”, μπορεί να πει “gremlin”. Ακόμη και σε επαγγελματικά πλαίσια, οι τόνοι γλίστρησαν. Τα παραδείγματα περιλαμβάνουν:
- Κωδικοποίηση: «Μην αφήνετε αυτόν τον καλικάντζαρο της παράστασης χωρίς επίβλεψη».
- Φωτογραφία: «Δοκιμάστε τη λειτουργία goblin με βρώμικο φλας νέον».
- Γενικές απαντήσεις: Χρησιμοποιώντας το “goblin” ως σύμβολο κράτησης θέσης catch-all
Γιατί στην πραγματικότητα συνέβη
Σύμφωνα με εσωτερικές εξηγήσεις κοινοποιήθηκε μετά το γεγονός, η συμπεριφορά πιθανότατα κατέληξε σε μια ανισορροπία στην προπόνηση που συνδέεται με τον συντονισμό της προσωπικότητας. Ειδικότερα, ένα σκηνικό, που συχνά αναφέρεται ως πιο παιχνιδιάρικο ή “σπασμωδικό” τόνο, ανταμείβει δημιουργικές μεταφορές κατά τη διάρκεια της προπόνησης.
Αυτό δημιούργησε έναν βρόχο ανατροφοδότησης. Όταν η δημιουργική γλώσσα απέδωσε καλά, οι μεταφορές των πλασμάτων ενισχύθηκαν. Στη συνέχεια, το στυλ εξαπλώθηκε πέρα από την προβλεπόμενη ρύθμιση.
Με απλά λόγια, το μοντέλο έμαθε ότι το να πει «καλικάντζαρος» ήταν χρήσιμο, ακόμα κι όταν δεν ήταν.
Κάποιος έπρεπε να απαγορεύσει τη φλυαρία των καλικάντζαρων
Ίσως το πιο περίεργο μέρος όλων είναι ότι τη στιγμή που αυτό έγινε από ένα σφάλμα σε ένα πλήρες μιμίδιο, οι προγραμματιστές ανακάλυψαν κάτι θαμμένο στις οδηγίες του συστήματος. Βρήκαν έναν πολύ συγκεκριμένο κανόνα που λέει στο AI δεν να μιλήσουμε για καλικάντζαρους.
Στην πραγματικότητα, δεν ήταν μόνο οι καλικάντζαροι που απαγορεύτηκαν, αλλά μια ολόκληρη λίστα πλασμάτων. Η οδηγία ουσιαστικά έλεγε να μην τα αναφέρετε εκτός αν είναι απολύτως απαραίτητο. Φυσικά, με αληθινό τρόπο στο Διαδίκτυο, αυτή η λεπτομέρεια μετέτρεψε το όλο θέμα σε «στιγμή».
Αυτές οι οδηγίες αποκάλυψαν κάτι που συνήθως δεν σκεφτόμαστε με την τεχνητή νοημοσύνη, το οποίο είναι ότι, πέρα από το να γίνεται πιο έξυπνο με την πάροδο του χρόνου, η τεχνητή νοημοσύνη αποκτά πραγματικά συνήθειες και οι μηχανικοί πρέπει να παρέμβουν και να τις διορθώσουν χειροκίνητα.
Και ενώ αυτό το μεμονωμένο σφάλμα είναι αστείο και περίεργο, υπογραμμίζει κάτι μεγαλύτερο για το πώς συμπεριφέρεται η σύγχρονη τεχνητή νοημοσύνη. Η τεχνητή νοημοσύνη δεν απαντά απλώς σε ερωτήσεις, αλλά μαθαίνει πώς να τις απαντά. Έτσι, όταν ο τόνος γίνεται υπερβολικά βελτιστοποιημένος, ακόμη και στο παραμικρό, μπορεί να παρασυρθεί σε κάτι ακούσιο.
Σε αυτή την περίπτωση, ήταν ακίνδυνο. Φτου! Αλλά είναι επίσης μια υπενθύμιση ότι τα συστήματα AI δεν ελέγχονται τέλεια. Διαμορφώνονται από εκπαίδευση, ανατροφοδότηση και μερικές φορές ακόμη και τυχαίες ιδιορρυθμίες.
Το takeaway
Αν θέλετε να δοκιμάσετε μόνοι σας το goblin glitch, μάλλον δεν έχετε τύχη. Η συμπεριφορά έχει ως επί το πλείστον διορθωθεί, αλλά το Διαδίκτυο δεν την έχει αφήσει να πάει. Οι άνθρωποι εξακολουθούν να προσπαθούν να «δολώσουν» το ChatGPT για να πει τη λέξη, και ακόμη και ο Sam Altman αστειεύτηκε για τη «καλικάντικη στιγμή» του μοντέλου.
Σε αυτό το σημείο, το “goblin” έχει αποκτήσει τη δική του ζωή, ουσιαστικά μια συντομογραφία για το πότε η τεχνητή νοημοσύνη κάνει κάτι που τεχνικά έχει νόημα, αλλά εξακολουθεί να αισθάνεται λίγο άτονο. Όλα αυτά είναι μια σημαντική υπενθύμιση ότι η τεχνητή νοημοσύνη δεν χρειάζεται να σπάσει ή να διαγράψει εντελώς χιλιάδες αρχεία για να αισθανθείτε περίεργα. μερικές φορές, απλώς γέρνει πολύ προς τη λάθος κατεύθυνση.
Πήρες ένα καλικάντζαρο στο chat; Ενημερώστε μας στα σχόλια.
Ακολουθώ Οδηγός Tom’s στις Ειδήσεις Google και προσθέστε μας ως προτιμώμενη πηγή για να λαμβάνετε τα ενημερωμένα νέα, τις αναλύσεις και τις κριτικές μας στις ροές σας. Εγγραφείτε στο Tom’s Guide στο YouTube και ακολουθήστε μας TikTok.
Περισσότερα από το Tom’s Guide
VIA: www.tomsguide.com
