Το OpenAI εξηγεί γιατί το ChatGPT αγάπησε ξαφνικά τους καλικάντζαρους

Ο Διευθύνων Σύμβουλος του OpenAI, Sam Altman, εμπλέκεται αυτήν τη στιγμή σε κάποιο δράμα στην αίθουσα του δικαστηρίου, αλλά οι μηχανικοί στο εργαστήριο OpenAI μόλις έλυσαν ένα μικρό δράμα (πραγματικά μια κωμωδία) με το ChatGPT.

Το OpenAI δημοσίευσε α εκτενής, λεπτομερής αναφορά στον ιστότοπό της σχετικά με τους καλικάντζαρους. Όχι, αλήθεια. Από την κυκλοφορία του GPT 5.1, τα μοντέλα ChatGPT έχουν αναπτύξει μια περίεργη προσήλωση στα καλικάντζαρια και τα γκρέμλιν, τακτικά αναφέροντας και τα δύο σε περιβάλλοντα όπου δεν έχει νόημα. Οι χρήστες το σημείωσαν και το OpenAI το παρατήρησε επίσης, προκαλώντας έρευνα. Μπορείτε να διαβάσετε την πλήρη αναφορά αν θέλετε όλες τις ζουμερές λεπτομέρειες, αλλά βασικά, όλα πηγαίνουν πίσω σε μια αναμφισβήτητα κακή κατανόηση του πώς είναι τα nerds.

Εάν δεν χρησιμοποιείτε το ChatGPT, το chatbot AI προσφέρει μια ποικιλία από “προσωπικότητες” που μπορείτε να επιλέξετε για να προσαρμόσετε τον τόνο των απαντήσεών του. Μία από αυτές τις προσωπικότητες ήταν (μέχρι πρόσφατα που αφαιρέθηκε) «σπασίκλα». Σύμφωνα με την έρευνα του OpenAI, ενώ οι «σπασμωδικές» απαντήσεις αντιπροσώπευαν μόνο το 2,5 τοις εκατό όλων των ερωτημάτων ChatGPT, το εκπληκτικό 66,7 τοις εκατό όλων των αναφορών για καλικάντζαρους προήλθε από αυτό το 2,5 τοις εκατό. Από εκεί και πέρα, αυτές οι απαντήσεις κατά κάποιο τρόπο «βραβεύτηκαν» και εξαπλώθηκαν σε άλλους τύπους προσωπικότητας πέρα ​​από το «σπασίκλα».

«Οι ανταμοιβές εφαρμόστηκαν μόνο στη συνθήκη Nerdy, αλλά η ενισχυτική μάθηση δεν εγγυάται ότι οι μαθημένες συμπεριφορές παραμένουν καλά προσαρμοσμένες στην κατάσταση που τις παρήγαγε», έγραψε το OpenAI. “Αφού ανταμείβεται ένα τικ στυλ, η μετέπειτα εκπαίδευση μπορεί να το εξαπλώσει ή να το ενισχύσει αλλού, ειδικά εάν αυτά τα αποτελέσματα επαναχρησιμοποιηθούν σε εποπτευόμενα δεδομένα λεπτομέρειας ή προτιμήσεων.”

Τέλος πάντων, μετά από όλα αυτά, το OpenAI απέσυρε τη «σπασίκλα» προσωπικότητα τον Μάρτιο και έδωσε εντολή στα τελευταία του μοντέλα να μην αναφέρουν καλικάντζαρους ή γκρεμλίνους εκτός και αν έχει νόημα.