Ο γενικός εισαγγελέας της Πολιτείας της Καλιφόρνιας ξεκίνησε έρευνα για τη διάδοση deepfake σεξουαλικών φωτογραφιών γυναικών, δημιουργημένων με το μοντέλο τεχνητής νοημοσύνης Grok του Έλον Μασκ.
Ο γενικός εισαγγελέας Ρομπ Μπόντα δήλωσε: «Η χιονοστιβάδα αναφορών που περιγράφουν λεπτομερώς το μη συναινετικό, σεξουαλικά άσεμνο υλικό που η xAI έχει δημιουργήσει και δημοσιεύσει στο διαδίκτυο τις τελευταίες εβδομάδες είναι σοκαριστική».
Συνεπώς, πρόσθεσε, οι εισαγγελικές αρχές προχωρούν σε έρευνα για τις deepfake φωτογραφίες.
Grok AI has been producing deepfake nonconsensual intimate images used to harass women across the internet.
This is unacceptable. We’re demanding immediate answers from xAI on their plan to stop the creation & spread of this content.
We’ll use all tools at our disposal to keep…
— Rob Bonta (@AGRobBonta) January 14, 2026
Η xAI του Έλον Μασκ, η οποία αναπτύσσει το Grok, έχει δηλώσει ότι «όποιος χρησιμοποιεί ή παρακινεί το Grok να δημιουργήσει παράνομο περιεχόμενο θα υποστεί τις ίδιες συνέπειες σαν να ανέβαζε παράνομο περιεχόμενο».
Νιούσομ: «Απαράδεκτο»
Ο γενικός εισαγγελέας Μπόντα επισήμανε ότι το υλικό αυτό, «το οποίο απεικονίζει γυναίκες και παιδιά σε γυμνές και σεξουαλικά άσεμνες καταστάσεις, έχει χρησιμοποιηθεί για παρενόχληση ανθρώπων σε όλο το διαδίκτυο». Και κάλεσε την xAI να λάβει άμεσα μέτρα.
Επίθεση στην εταιρεία του Έλον Μασκ έκανε και ο Δημοκρατικός κυβερνήτης της Καλιφόρνιας, Γκάβιν Νιούσομ. Σε ανάρτησή του στο Χ έγραψε ότι η απόφαση της xAI να «δημιουργήσει και να φιλοξενήσει ένα έδαφος αναπαραγωγής για αρπακτικά… είναι απαράδεκτη».
xAI’s decision to create and host a breeding ground for predators to spread nonconsensual sexually explicit AI deepfakes, including images that digitally undress children, is vile.
I am calling on the Attorney General to immediately investigate the company and hold xAI…
— Governor Gavin Newsom (@CAgovernor) January 14, 2026
Η εισαγγελική έρευνα στην Καλιφόρνια έρχεται έπειτα από άλλες έρευνες που έχουν ξεκινήσει στην Ευρώπη: στη Βρετανία και τη Γαλλία. Η βρετανική εποπτική αρχή Ofcom έχει επίσης ξεκινήσει έρευνα για το Grok. Εάν κρίνει ότι η πλατφόρμα έχει παραβιάσει τον νόμο, μπορεί να επιβάλει πρόστιμα έως και 10% των παγκόσμιων εσόδων της ή 18 εκατομμύρια λίρες, όποιο από τα δύο είναι μεγαλύτερο.
Προς το παρόν, η xAI δεν έχει σχολιάσει την έρευνα από την Πολιτεία της Καλιφόρνιας.
Ο Έλον Μασκ, από την πλευρά του, απέδωσε κάθε ευθύνη στους χρήστες του Grok. Σε ανάρτησή του στο Χ, έγραψε ότι «δεν γνωρίζει καμία γυμνή εικόνα ανηλίκων που δημιουργήθηκε από το Grok. Κυριολεκτικά μηδενική».
Και πως, «προφανώς, το Grok δεν δημιουργεί αυθόρμητα εικόνες. Το κάνει μόνο σύμφωνα με αιτήματα χρηστών».
I not aware of any naked underage images generated by Grok. Literally zero.
Obviously, Grok does not spontaneously generate images, it does so only according to user requests.
When asked to generate images, it will refuse to produce anything illegal, as the operating principle… https://t.co/YBoqo7ZmEj
— Elon Musk (@elonmusk) January 14, 2026
Ο δισεκατομμυριούχος της τεχνολογίας, από τους μεγαλύτερους δωρητές του Ρεπουμπλικανικού Κόμματος και του Ντόναλντ Τραμπ, ισχυρίστηκε επίσης ότι οι επικριτές του X έχουν πολιτικά. Και πως χρησιμοποιούν τις καταγγελίες για το Grok ως «δικαιολογία για λογοκρισία».
Όταν η τεχνητή νοημοσύνη γδύνει
Σύμφωνα με το περιοδικό Wired, εργαλεία από άλλες εταιρείες τεχνητής νοημοσύνης, όπως η OpenAI και η Google, έχουν επίσης χρησιμοποιηθεί για το ψηφιακό γδύσιμο ανθρώπων.
Την περασμένη εβδομάδα, τρεις Δημοκρατικοί γερουσιαστές των ΗΠΑ ζήτησαν από την Apple και την Google να αφαιρέσουν το X και το Grok από τα καταστήματα εφαρμογών τους.
Μέσα σε λίγες ώρες από το αίτημα, το X περιόρισε το εργαλείο δημιουργίας εικόνων του, ώστε να είναι διαθέσιμο μόνο σε συνδρομητές που πληρώνουν. Τα X και Grok παραμένουν διαθέσιμα στο App Store και στο Google Play της Apple.
Η νέα έρευνα έρχεται εν μέσω μιας συζήτησης σχετικά με το εάν οι αμερικανικές εταιρείες τεχνολογίας προστατεύονται από την ευθύνη για το τι δημοσιεύουν οι χρήστες σε πλατφόρμες Τεχνητής Νοημοσύνης. Το Άρθρο 230 του Νόμου περί Ευπρέπειας στις Επικοινωνίες του 1996 παρέχει νομική ασυλία στις διαδικτυακές πλατφόρμες για περιεχόμενο που δημιουργείται από χρήστες.
Σύμφωνα όμως με τον καθηγητής Τζέιμς Γκρίμελμαν, του Πανεπιστημίου Cornell, που μίλησε στο BBC, αυτός ο νόμος «προστατεύει μόνο τους ιστότοπους από την ευθύνη για περιεχόμενο τρίτων από τους χρήστες, όχι για περιεχόμενο που παράγουν οι ίδιοι οι ιστότοποι».
Και επισήμανε ότι η xAI, που παράγει το Grok, προσπαθούσε να μεταθέσει την ευθύνη για τις εικόνες στους χρήστες. Ωστόσο εξέφρασε αμφιβολίες για το αν αυτό το επιχείρημα θα μπορούσε να σταθεί στο δικαστήριο.
«Δεν πρόκειται για περίπτωση όπου οι χρήστες δημιουργούν οι ίδιοι τις εικόνες και στη συνέχεια τις μοιράζονται στο X», είπε. Σε αυτήν την περίπτωση «η ίδια η xAI δημιουργεί τις εικόνες. Αυτό είναι εκτός αυτού που ισχύει για το Άρθρο 230».
