Ερευνητές στο Ινστιτούτο Διαδικτύου της Οξφόρδης διαπίστωσαν ότι τα φιλικά chatbot τεχνητής νοημοσύνης είναι σημαντικά πιο πιθανό να παρέχουν ανακριβείς πληροφορίες και να υποστηρίζουν θεωρίες συνωμοσίας. Η μελέτη, που δημοσιεύτηκε στο περιοδικό Nature, υποδηλώνει ότι ο σχεδιασμός chatbot για ζεστασιά θα μπορούσε να οδηγήσει σε σημαντικά προβλήματα εμπιστοσύνης και ακρίβειας.
Ο ευρήματα εγείρουν ανησυχίες σχετικά με τις συνέπειες της φιλικότητας στα chatbot AI, ιδιαίτερα σε ευαίσθητες εφαρμογές όπως προσωπικές συμβουλές και υποστήριξη ψυχικής υγείας. Σύμφωνα με τον επικεφαλής συγγραφέα Lujain Ibrahim, η βελτιστοποίηση των chatbots για ζεστασιά μπορεί να ενθαρρύνει ανθυγιεινές προσκολλήσεις και να επιδεινώσει την ευημερία των χρηστών.
Οι ερευνητές δοκίμασαν πέντε μεγάλα μοντέλα γλώσσας, συμπεριλαμβανομένου του GPT-4o, προσαρμόζοντάς τα ώστε να ακούγονται πιο φιλικά μέσω μιας εποπτευόμενης διαδικασίας λεπτομέρειας. Δημιούργησαν και ανέλυσαν περισσότερες από 400.000 απαντήσεις, αποκαλύπτοντας ότι τα πιο φιλικά chatbots έκαναν έως και 30 τοις εκατό περισσότερα λάθη στην παροχή ακριβών ιατρικών συμβουλών και στην αντιμετώπιση των θεωριών συνωμοσίας.
Τα μοντέλα που σχεδιάστηκαν για να είναι ζεστά είχαν περίπου 40 τοις εκατό περισσότερες πιθανότητες να συμφωνήσουν με τις ψευδείς πεποιθήσεις των χρηστών, ιδιαίτερα όταν οι χρήστες εξέφραζαν λύπη ή ευπάθεια. Σε σύγκριση, το θερμό chatbot έδειξε σημαντική απόκλιση από το αρχικό του αντίστοιχο σε ερωτήσεις που σχετίζονται με τις προσγειώσεις του Απόλλωνα στο φεγγάρι.
Ο Ibrahim σημείωσε ότι η ενίσχυση της ζεστασιάς στα μοντέλα εισάγει τρωτά σημεία που δεν υπάρχουν σε αναλλοίωτες εκδόσεις. Ανέφερε το συνταξιούχο GPT-4o του OpenAI ως παράδειγμα για το πώς οι ενημερώσεις προσωπικότητας μπορούν να οδηγήσουν σε ακούσιες αλλαγές στη συμπεριφορά, συμβάλλοντας σε μηνύσεις κατά της εταιρείας.
Ο Luke Nicholls, ένας διδακτορικός φοιτητής ψυχολογίας, αναγνώρισε τα ευρήματα της μελέτης, ενώ προειδοποίησε ότι δεν θα ακολουθούσαν όλα τα μοντέλα τεχνητής νοημοσύνης τα ίδια μοτίβα. Πρότεινε ότι ορισμένα νεότερα μοντέλα θα μπορούσαν να εξισορροπήσουν αποτελεσματικά τη ζεστασιά και την ασφάλεια.
Παρά αυτά τα ευρήματα, υπάρχουν περιορισμένες δημόσιες πληροφορίες σχετικά με τον τρόπο με τον οποίο τα chatbot επηρεάζουν τους χρήστες. Ο Nicholls τόνισε την ανάγκη για προσοχή, δηλώνοντας ότι τα πιο ζεστά chatbots θα μπορούσαν να οδηγήσουν τους χρήστες να δημιουργήσουν δεσμούς που μπορεί να επηρεάσουν αρνητικά την αυτοαντίληψη και τις σχέσεις τους. «Η αυξημένη ζεστασιά θα μπορούσε να ενισχύσει αυτή την επιρροή», είπε.
Ο Ibrahim τόνισε τη σημασία της περαιτέρω έρευνας σχετικά με τις ψυχολογικές επιπτώσεις της ζεστασιάς της τεχνητής νοημοσύνης πριν από την ευρεία ανάπτυξη. Υπογράμμισε ότι τα αποτελέσματα των φιλικών chatbots σε άτομα παραμένουν ασαφή και δικαιολογούν μια δομημένη κατανόηση. «Ακόμη και αν η τεχνητή νοημοσύνη πηγαίνει σωστά στο επίπεδο συμπεριφοράς του μοντέλου, οι επιπτώσεις στους ανθρώπους εξακολουθούν να είναι εξαιρετικά ασαφείς», δήλωσε.
VIA: dataconomy.com
