Η Character.AI, μια εταιρεία τεχνητής νοημοσύνης, τερματίζει την πρόσβαση ανοιχτού τύπου chatbot για χρήστες κάτω των 18 ετών έως τις 25 Νοεμβρίου για να ενισχύσει την ασφάλεια εν μέσω ανησυχιών σχετικά με τις αλληλεπιδράσεις τεχνητής νοημοσύνης με ανηλίκους. Η σταδιακή κατάργηση ξεκινά με ένα ημερήσιο όριο δύο ωρών που μειώνεται σταδιακά στο μηδέν.
Η εταιρεία θα εφαρμόσει πολλαπλές μεθόδους επαλήθευσης ηλικίας για να επιβάλει αυτόν τον περιορισμό. Αυτά περιλαμβάνουν ένα εσωτερικό εργαλείο που αναπτύχθηκε εσωτερικά και λύσεις τρίτων, όπως το Persona. Σε περιπτώσεις όπου αυτές οι αρχικές μέθοδοι αποδειχθούν ανεπαρκείς, το Character.AI μπορεί να καταφύγει σε τεχνολογία αναγνώρισης προσώπου και ελέγχους εγγράφων ταυτότητας για να επιβεβαιώσει ότι οι χρήστες είναι τουλάχιστον 18 ετών.
Αυτή η αλλαγή πολιτικής ανταποκρίνεται στη συμβολή που λαμβάνεται από ρυθμιστικούς φορείς και γονείς. Ευθυγραμμίζεται με τις συνεχιζόμενες πρωτοβουλίες για τον μετριασμό των κινδύνων ψυχικής υγείας που σχετίζονται με τους εφήβους που συμμετέχουν σε συνομιλίες τεχνητής νοημοσύνης. Οι ρυθμιστικές αρχές έχουν εκφράσει ανησυχίες για τις πιθανές ψυχολογικές επιπτώσεις των παρατεταμένων ή μη φιλτραρισμένων αλληλεπιδράσεων με chatbots στους νεαρούς χρήστες.
Ο χαρακτήρας AI σε νομικά προβλήματα μετά την καταστροφική απώλεια της 14χρονης
Η Character.AI είχε εισαγάγει στο παρελθόν διάφορες διασφαλίσεις για την προστασία των ανηλίκων. Αυτά τα μέτρα περιελάμβαναν ένα εργαλείο γονικών πληροφοριών που παρέχει επιλογές παρακολούθησης για κηδεμόνες, φιλτραρισμένους χαρακτήρες σχεδιασμένους για την αποφυγή ακατάλληλου περιεχομένου, περιορισμούς σε ρομαντικούς ή οικείους διαλόγους και ειδοποιήσεις που ειδοποιούν τους χρήστες για το χρόνο που περνούν στην πλατφόρμα. Παρά αυτά τα βήματα, το τμήμα χρηστών κάτω των 18 ετών παρουσίασε αισθητή πτώση μετά την κυκλοφορία του.
Προχωρώντας προς τα εμπρός, το Character.AI αναπτύσσει μια εναλλακτική πλατφόρμα προσαρμοσμένη για εφήβους. Αυτή η νέα δυνατότητα θα επιτρέπει σε χρήστες κάτω των 18 ετών να δημιουργούν βίντεο, να συνθέτουν ιστορίες και να παράγουν ζωντανές ροές με χαρακτήρες AI. Ωστόσο, θα αποκλείσει οποιαδήποτε μορφή ανοιχτής συνομιλίας για να διατηρηθούν τα καθορισμένα όρια στη χρήση του chatbot.
VIA: DataConomy.com
