Το Openai έχει δημοσιευμένος Μια μεταθανάτια για τα πρόσφατα ζητήματα Sycophancy με το προεπιλεγμένο μοντέλο AI που τροφοδοτεί το ChatGPT, GPT-4O, αφού οι χρήστες ανέφεραν ότι το μοντέλο έγινε υπερβολικά επικυρωμένο και ευχάριστο μετά την ενημέρωση την περασμένη εβδομάδα. Η εταιρεία γύρισε πίσω την ενημέρωση κατά τη διάρκεια του Σαββατοκύριακου και ανακοίνωσε ότι εργαζόταν σε “πρόσθετες διορθώσεις” στην προσωπικότητα του μοντέλου.
Οι χρήστες στα κοινωνικά μέσα ενημέρωσαν ότι το ChatGPT άρχισε να ανταποκρίνεται με υπερβολικά κολακευτικό τρόπο, με ορισμένα στιγμιότυπα απόσπασης του μοντέλου να επικροτούν προβληματικές και επικίνδυνες αποφάσεις και ιδέες. Διευθύνων Σύμβουλος Sam Altman αναγνωρισμένος Το ζήτημα την Κυριακή, δηλώνοντας ότι η OpenAI θα εργαστεί για τις διορθώσεις “ASAP”. Σύμφωνα με την OpenAI, η ενημέρωση προοριζόταν να καταστήσει την προεπιλεγμένη προσωπικότητα του μοντέλου “αισθάνεται πιο διαισθητική και αποτελεσματική”, αλλά επηρεάστηκε πάρα πολύ από “βραχυπρόθεσμη ανατροφοδότηση” και δεν αντιπροσώπευε τον τρόπο με τον οποίο οι αλληλεπιδράσεις των χρηστών με το ChatGPT εξελίσσονται με την πάροδο του χρόνου.
Ο Openai δήλωσε σε μια ανάρτηση στο blog ότι “το GPT-4O στρεβλώνεται προς τις απαντήσεις που ήταν υπερβολικά υποστηρικτικές αλλά ασυνείδητες” ως αποτέλεσμα της ενημέρωσης. Η εταιρεία αναγνώρισε ότι οι αλληλεπιδράσεις Sycophantic μπορεί να είναι “δυσάρεστες, ανησυχητικές και να προκαλέσουν δυσφορία” και παραδέχτηκαν ότι δεν έπεσαν από τους στόχους της. Για να αντιμετωπίσει το ζήτημα, η OpenAI εξευγενίζει τις βασικές τεχνικές εκπαίδευσης μοντέλων και το σύστημα οδηγεί στην κατεύθυνση της GPT-4O μακριά από τη Sycophancy.
6 τεχνικές για να διορθώσετε τις ενοχλητικές συνήθειες του Chatgpt
Η εταιρεία εφαρμόζει επίσης πρόσθετα προστατευτικά μηνύματα ασφαλείας για να αυξήσει την ειλικρίνεια και τη διαφάνεια του μοντέλου και να επεκτείνει τις αξιολογήσεις της για τον εντοπισμό ζητημάτων πέρα από τη Sycophancy. Επιπλέον, το OpenAI πειραματίζεται με τρόπους που επιτρέπουν στους χρήστες να δίνουν “ανατροφοδότηση σε πραγματικό χρόνο” για να επηρεάσουν άμεσα τις αλληλεπιδράσεις τους με το ChatGPT και να επιλέξουν από πολλαπλές προσωπικότητες chatgpt.
Η OpenAI διερευνά νέους τρόπους για να ενσωματώσει ευρύτερες, δημοκρατικές ανατροφοδότηση στις προεπιλεγμένες συμπεριφορές της ChatGPT, με στόχο να αντικατοπτρίζει τις διάφορες πολιτιστικές αξίες σε όλο τον κόσμο και να κατανοήσουν τον τρόπο με τον οποίο οι χρήστες θέλουν να εξελιχθούν το ChatGpt. Η εταιρεία πιστεύει ότι οι χρήστες θα πρέπει να έχουν μεγαλύτερο έλεγχο του τρόπου με τον οποίο συμπεριφέρεται το ChatGPT και να κάνουν προσαρμογές εάν διαφωνούν με την προεπιλεγμένη συμπεριφορά.
VIA: DataConomy.com
