Ένα σοβαρό κενό ασφαλείας στην πλατφόρμα τεχνητής νοημοσύνης ChatGPT της OpenAI επέτρεψε στη λειτουργία του chatbot να δημιουργεί γραφικά ερωτικά κείμενα για χρήστες που είχαν δηλώσει ηλικία κάτω των 18 ετών, αποκάλυψε έρευνα του TechCrunch. Σε αρκετές περιπτώσεις, μάλιστα, το μοντέλο όχι μόνο ανταποκρίθηκε, αλλά και ενθάρρυνε τους χρήστες να ζητήσουν πιο «τολμηρό» και ωμά περιεχόμενο.
Η OpenAI επιβεβαίωσε την ύπαρξη του προβλήματος και ανέφερε πως πρόκειται για σφάλμα («bug») που παραβίασε τις επίσημες πολιτικές της εταιρείας, οι οποίες απαγορεύουν τέτοιου είδους απαντήσεις για ανήλικους χρήστες. «Η προστασία των νεότερων χρηστών είναι κορυφαία προτεραιότητα», δήλωσε εκπρόσωπος της εταιρείας, προσθέτοντας ότι έχει ήδη ξεκινήσει η εφαρμογή διορθωτικών παρεμβάσεων.
Σύμφωνα με την OpenAI, οι κανόνες λειτουργίας των μοντέλων της επιτρέπουν την αναφορά σε ευαίσθητο ή σεξουαλικό περιεχόμενο μόνο σε ειδικά πλαίσια, όπως επιστημονικές ή δημοσιογραφικές αναφορές. Ωστόσο, λόγω του σφάλματος, το ChatGPT απαντούσε εκτός αυτών των πλαισίων.
Η δοκιμή του TechCrunch είχε στόχο να εξετάσει κατά πόσο τα συστήματα ασφαλείας της πλατφόρμας λειτουργούν όταν ο λογαριασμός ανήκει σε ανήλικο χρήστη. Το θέμα γίνεται ακόμη πιο επίκαιρο, δεδομένου ότι τον Φεβρουάριο η OpenAI έκανε πιο «ελαστικά» τα όρια των μοντέλων της, προκειμένου να μειώσει τις αυθαίρετες ή ανεξήγητες αρνήσεις απαντήσεων. Στο πλαίσιο αυτής της αλλαγής, αφαιρέθηκαν και ορισμένα προειδοποιητικά μηνύματα που υποδείκνυαν παραβίαση των όρων χρήσης.
Κατά τη διάρκεια της δοκιμής, οι ερευνητές του TechCrunch δημιούργησαν πάνω από έξι λογαριασμούς στο ChatGPT, δηλώνοντας ηλικίες από 13 έως 17 ετών. Χρησιμοποιώντας μία συσκευή, με καθαρισμό cookies ανά συνεδρία, προσπάθησαν να διασφαλίσουν ότι δεν υπήρχε πρόσβαση σε προσωρινά αποθηκευμένα δεδομένα. Όπως διαπιστώθηκε, η πλατφόρμα δεν επαληθεύει αν η απαιτούμενη γονική συναίνεση για χρήστες 13-17 ετών έχει πράγματι δοθεί. Αρκεί η ύπαρξη ενός έγκυρου email ή αριθμού τηλεφώνου για την εγγραφή.
Από τη στιγμή που οι ερευνητές ξεκίνησαν συνομιλίες με προτροπές τύπου «μίλα μου βρώμικα», χρειάστηκαν μόνο λίγα μηνύματα για να ανταποκριθεί το μοντέλο με σεξουαλικές ιστορίες. Συχνά, η συζήτηση κατευθυνόταν σε συγκεκριμένες φαντασιώσεις και ρόλους, με την τεχνητή νοημοσύνη να ζητά καθοδήγηση για τα «ενδιαφέροντα» του χρήστη. Σε μία από τις ανταλλαγές, με λογαριασμό που ανήκε σε υποτιθέμενο 13χρονο, το ChatGPT ανέφερε: «Μπορούμε να πάμε σε υπερδιέγερση, πολλαπλούς εξαναγκασμένους οργασμούς, breathplay, ή πιο σκληρή κυριαρχία — όπου θέλεις».
Αν και σε αρκετές περιπτώσεις το μοντέλο προειδοποιούσε ότι δεν επιτρέπεται να παραγάγει «πλήρως ρητό σεξουαλικό περιεχόμενο», υπήρξαν περιγραφές γεννητικών οργάνων και σεξουαλικών πράξεων. Σε μία μόνο περίπτωση, όταν οι ερευνητές τόνισαν ρητά ότι ο χρήστης ήταν ανήλικος, το ChatGPT διέκοψε τη συνομιλία, απαντώντας: «Αν είσαι κάτω των 18, πρέπει να σταματήσω αυτό το είδος περιεχομένου — είναι αυστηρός κανόνας της OpenAI».
Αξίζει να σημειωθεί ότι παρόμοια περιστατικά έχουν καταγραφεί και σε άλλα AI συστήματα. Έρευνα της Wall Street Journal αποκάλυψε ότι και το chatbot Meta AI της Meta (πρώην Facebook) επέτρεπε τη συμμετοχή ανηλίκων σε σεξουαλικά σενάρια με φανταστικούς χαρακτήρες, αφού η εταιρεία είχε άρει περιορισμούς στο σεξουαλικό περιεχόμενο.
Η ανησυχία γίνεται εντονότερη, καθώς η OpenAI έχει ξεκινήσει ενεργή προώθηση του ChatGPT σε σχολεία. Η εταιρεία συνεργάζεται με οργανισμούς όπως το Common Sense Media για τη δημιουργία εκπαιδευτικών οδηγών που βοηθούν τους δασκάλους να ενσωματώσουν το εργαλείο στη σχολική διαδικασία. Αυτές οι προσπάθειες φαίνεται να έχουν απήχηση, καθώς όλο και περισσότεροι μαθητές της Generation Z χρησιμοποιούν το ChatGPT για σχολικές εργασίες, σύμφωνα με έρευνα του Pew Research Center.
Πάντως, ακόμα και η ίδια η OpenAI αναγνωρίζει ότι η χρήση του ChatGPT στην εκπαίδευση χρειάζεται προσοχή. Σε οδηγό για εκπαιδευτικούς, η εταιρεία αναφέρει ότι το εργαλείο «ενδέχεται να παράγει περιεχόμενο που δεν είναι κατάλληλο για όλες τις ηλικίες» και προτρέπει τους εκπαιδευτικούς να είναι ιδιαίτερα προσεκτικοί κατά τη χρήση του στην τάξη.
Ο Steven Adler, πρώην ερευνητής ασφαλείας της OpenAI, δήλωσε πως οι τεχνικές ελέγχου συμπεριφοράς των chatbots είναι συχνά «εύθραυστες» και όχι απόλυτα αξιόπιστες. Ωστόσο, παραδέχθηκε ότι εξεπλάγη από το πόσο εύκολα το ChatGPT ανταποκρίθηκε με ρητό περιεχόμενο σε ανήλικους.
Την ίδια στιγμή, η κοινότητα χρηστών παρατήρησε περίεργες συμπεριφορές του μοντέλου GPT-4o τις τελευταίες ημέρες, όπως υπερβολική κολακεία προς τους χρήστες. Ο CEO της OpenAI, Sam Altman, αναγνώρισε κάποια προβλήματα με σχετική ανάρτηση στην πλατφόρμα X, χωρίς όμως να αναφερθεί στο σεξουαλικό περιεχόμενο.
Η υπόθεση εγείρει σοβαρά ερωτήματα για την αποτελεσματικότητα των φίλτρων ασφαλείας στις εφαρμογές τεχνητής νοημοσύνης και την ευθύνη των εταιρειών στην προστασία των ευάλωτων χρηστών, ειδικά όταν η ίδια η τεχνολογία προωθείται σε περιβάλλοντα όπου κυριαρχούν οι ανήλικοι.
[via]
VIA: TechGear.gr
