Ciò includeva i rischi di diffondere contenuti illegali, come immagini manipolate sessualmente esplicite, compreso quello che potrebbe essere materiale pedopornografico.
La Commissione ha affermato che i rischi “sembrano essersi materializzati, esponendo i cittadini dell’UE a gravi danni”.
“I deepfake sessuali di donne e bambini sono una forma di degrado violenta e inaccettabile”, ha affermato il vicepresidente esecutivo per la sovranità, la sicurezza e la democrazia tecnologica Henna Virkkunen.
“Con questa indagine determineremo se X ha adempiuto ai suoi obblighi legali ai sensi del DSA (Digital Services Act) o se ha trattato i diritti dei cittadini europei – compresi quelli di donne e bambini – come un danno collaterale del suo servizio.”
“eSafety rimane preoccupata per l’uso del sistema di intelligenza artificiale generativa Grok on X per generare contenuti che potrebbero sessualizzare o sfruttare le persone, in particolare i bambini”, ha affermato il 9 gennaio.
“Mentre il numero di segnalazioni ricevute da eSafety rimane piccolo, eSafety ha registrato un recente aumento da quasi nessuna a diverse segnalazioni nelle ultime due settimane relative all’uso di Grok per generare immagini sessualizzate o di sfruttamento.
“eSafety utilizzerà i propri poteri, comprese le notifiche di rimozione, ove appropriato e laddove il materiale soddisfi le soglie pertinenti definite nell’Online Safety Act.”
La commissione ha affermato di aver già adottato misure coercitive nel 2025 su alcuni servizi di “nudificazione” utilizzati per creare materiale di sfruttamento sessuale minorile basato sull’intelligenza artificiale.
La eSafety Commission non ha confermato se ha ricevuto una risposta da X.
Circa una settimana dopo, il proprietario di X Musk ha detto di essere a conoscenza di “letteralmente zero” immagini di minorenni nudi generate da Grok.
“Ovviamente Grok non genera immagini spontaneamente, lo fa solo in base alle richieste degli utenti”, ha detto in un post su X.
“Quando gli viene chiesto di generare immagini, si rifiuterà di produrre qualcosa di illegale, poiché il principio operativo di Grok è obbedire alle leggi di qualsiasi paese o stato.
“Potrebbero esserci momenti in cui l’hacking antagonista dei prompt di Grok fa qualcosa di inaspettato. Se ciò accade, risolviamo immediatamente il bug.”
Ha anche affermato che non consentirà più agli utenti di rappresentare persone in “bikini, biancheria intima o altri abiti rivelatori”, ma solo nei luoghi in cui è illegale.
Il sito web tecnologico The Verge da allora ha scoperto che rimane “estremamente facile spogliare le donne e modificarle in pose sessualizzate utilizzando le app o i siti Web mobili X e Grok”.
La Commissione europea ha affermato che la sua indagine potrebbe includere l’invio di ulteriori richieste di informazioni a X, lo svolgimento di interviste o ispezioni e l’imposizione di misure provvisorie.
