Sono aumentate le lamentele sulla nuova funzionalità di Grok “modifica immagine” che alcuni utenti di X hanno sfruttato per spogliare digitalmente le persone.
Pubblicato il 5 gennaio 2026
La Commissione europea ha condannato la diffusione di contenuti espliciti e infantili sulla piattaforma di social media X, definendo il materiale “spaventoso” e “disgustoso”.
Il portavoce degli affari digitali dell’Unione europea Thomas Regnier ha rilasciato questo commento ai giornalisti lunedì dopo settimane di lamentele su una nuova funzionalità di X’s chatbot AI integrato Grok utilizzato per generare contenuti pornografici, inclusa la raffigurazione di bambini.
Storie consigliate
elenco di 4 elementifine dell’elenco
“Grok offre ora una ‘modalità piccante’ che mostra contenuti sessuali espliciti con alcuni output generati con immagini infantili”, ha detto Regnier. “Questo non è piccante. Questo è illegale. Questo è spaventoso. Questo è disgustoso.”
Regnier ha affermato che la Commissione europea sta “esaminando molto seriamente” la questione e che tali contenuti “non hanno posto in Europa”.
Nel frattempo, l’ufficio del pubblico ministero di Parigi, in Francia, ha ampliato l’indagine su X includendo accuse secondo cui Grok, creato dalla società xAI di Elon Musk, è stato utilizzato per generare e diffondere pornografia infantile.
“In attesa di essere armato”
Alla fine di dicembre, una nuova funzionalità di “modifica immagine” su Grok consentiva agli utenti di modificare qualsiasi immagine sulla piattaforma. Alcuni utenti hanno deciso di chiedere a Grok di rimuovere parzialmente o completamente gli indumenti delle donne o dei bambini nelle immagini.
Grok ha soddisfatto le numerose richieste degli utenti di alterare le fotografie delle donne per raffigurarle in abiti rivelatori, come bikini traslucidi.
Grok venerdì ha ammesso “lacune nelle garanzie” e ha detto che le “correggerà urgentemente”. “Il CSAM (materiale di abuso sessuale infantile) è illegale e proibito”, si legge in un post.
Ma gli esperti di sicurezza dell’intelligenza artificiale hanno affermato che la piattaforma ha ignorato mesi di avvertimenti secondo cui tale abuso era imminente.
“Ad agosto, abbiamo avvertito che la generazione di immagini di xAI era essenzialmente uno strumento di nudizzazione in attesa di essere utilizzato come arma”, ha affermato Tyler Johnston, direttore esecutivo del gruppo di controllo dell’intelligenza artificiale The Midas Project. “Questo è fondamentalmente ciò che è successo.”
X, che Musk acquisito nel 2022ha già dovuto affrontare una reazione negativa da parte dell’UE per le sue politiche sulla pubblicità e sulla moderazione dei contenuti.
A dicembre Bruxelles ha inflitto alla piattaforma una multa da 120 milioni di euro (140 milioni di dollari) per aver violato le norme UE sui contenuti digitali sulla trasparenza nella pubblicità e per i metodi di verifica degli utenti.
X ancora resta sotto indagine ai sensi del Digital Services Act dell’UE in un’indagine iniziata nel dicembre 2023.
Grok ha una storia controversa, anche per aver generato contenuti astorici e pieni di pregiudizi. L’anno scorso, la società di Musk ha rimosso i post del chatbot che sembravano elogiare Adolf Hitler denunce di contenuto antisemita.
