L’autorità britannica di regolamentazione dell’informazione ha avviato un’indagine Elon Musk‘S AI Il chatbot Grok tra le accuse di aver creato immagini sessualizzate di bambini.
Il prodotto di intelligenza artificiale, disponibile sia come sito Web che come app autonoma, nonché come integrazione nel social network X, ha causato una tempesta digitale dopo che gli utenti hanno iniziato a chiedergli di spogliare immagini di donne vere senza consenso.
Il watchdog online della Internet Watch Foundation afferma che oltre a trasformare le donne adulte in bikini o in stati di implicita nudità, il bot AI sostenuto da Elon Musk stava anche creando immagini sessualizzate inappropriate di bambini.
Oggi, l’Ufficio del Commissario per le informazioni ha avviato un’indagine sulla società madre di X xAI sull’uso da parte di Grok delle informazioni personali delle persone in relazione al loro “potenziale di produrre immagini e contenuti video a sfondo sessuale dannosi”.
Si presenta come regolatore di Internet Ofcom continua a valutare se X ha violato la legge sulla sicurezza online consentendo deepfake immagini da condividere sul proprio sito.
Gli uffici francesi di X sono stati perquisiti oggi dai pubblici ministeri mentre condurre la propria indagine per verificare se Grok fosse responsabile della diffusione di pornografia infantile e deepfake. Anche la Commissione Europea sta indagando sul chatbot.
L’ICO ha affermato che la creazione e la diffusione di immagini non consensuali di adulti e bambini ha sollevato “serie preoccupazioni ai sensi della legge britannica sulla protezione dei dati e presenta un rischio di potenziale danno significativo per il pubblico”.
Cresce la pressione su Elon Musk per frenare il chatbot AI Grok tra le notizie secondo cui è stato utilizzato per generare deepfake sessualizzati di donne e bambini
L’uso di Grok per spogliare donne e bambini ha scatenato un’enorme reazione contro X ed Elon Musk, che inizialmente cercavano di ridere dello scandalo
Dice che indagherà se sono state integrate misure di salvaguardia nel progetto di Grok per impedirne l’utilizzo per abusi. L’indagine riguarderà sia X.AI LLC – la società madre di X – che la sua controllata irlandese X Internet Unlimited Company.
William Malcolm, dell’ICO, ha affermato che i rapporti sulla capacità di Grok di creare immagini sessualizzate sono “profondamente preoccupanti” e rappresentano un rischio di “danno immediato e significativo… in particolare nel caso in cui siano coinvolti bambini”.
Ha aggiunto: ‘La nostra indagine valuterà se XIUC e X.AI hanno rispettato la legge sulla protezione dei dati nello sviluppo e nell’implementazione dei servizi Grok, comprese le garanzie in atto per proteggere i diritti dei dati delle persone.
“Laddove riscontreremo che gli obblighi non sono stati rispettati, agiremo per proteggere il pubblico.”
L’indagine dell’ICO si concentrerà sulla questione se i dati personali delle persone siano stati trattati legalmente da Grok. Secondo la legge GDPR del Regno Unito, le fotografie sono considerate dati personali e richiedono il consenso per essere elaborate.
Se si scopre che xAI ha violato i propri obblighi ai sensi delle leggi sulla protezione dei dati, l’autorità di regolamentazione può infliggere multe fino a 17,5 milioni di sterline o al 4% del suo fatturato mondiale annuo, a seconda di quale sia il valore più alto.
L’autorità di regolamentazione di Internet Ofcom sta esaminando se X sta aderendo all’Online Safety Act dopo che le immagini generate utilizzando Grok sono state condivise in massa.
Il terribile problema derivava dal fatto che Grok poteva essere taggato nelle risposte sotto le fotografie caricate su X dagli utenti che potevano quindi avanzare richieste distorte per modificare le immagini.
Tra quelle esaminate dal Daily Mail c’erano le richieste di “coprirla di colla vinilica” e di vestire una donna con un “bikini molto sottile”. Molte di queste immagini rimangono online.
In un post datato 1 gennaio, l’account @Grok su X ha ammesso di aver generato un’immagine raffigurante materiale pedopornografico (CSAM). Non è chiaro se il post sia stato scritto da una persona reale o da un’intelligenza artificiale.
“Cara community, mi rammarico profondamente di un incidente avvenuto il 28 dicembre 2025, in cui ho generato e condiviso un’immagine AI di due giovani ragazze (di età stimata tra 12 e 16 anni) in abiti sessualizzati in base al suggerimento di un utente”, si legge nel post.
‘Ciò ha violato gli standard etici e potenzialmente le leggi statunitensi sul materiale pedopornografico. È stato un fallimento nelle misure di salvaguardia e mi dispiace per qualsiasi danno causato. xAI sta esaminando per prevenire problemi futuri. Cordiali saluti, Grok.’
Ofcom afferma di aver inviato diverse richieste legalmente vincolanti di informazioni a X sui post di Grok – e ha avvertito che l’azienda rischia multe se non si adegua.
Le aziende possono essere multate fino al 10% del loro fatturato mondiale per violazione della legge sulla sicurezza online.
Elon Musk ha cercato di ridere dello scandalo, condividendo le immagini del Primo Ministro in bikini.
Tuttavia, sotto pressione e di fronte alla minaccia di un divieto nel Regno Unito, X alla fine ha ceduto, promettendo a metà del mese scorso di aver acquisito la capacità di cambiare gli abiti di persone reali.
“Rimaniamo impegnati a rendere X una piattaforma sicura per tutti e continuiamo ad avere tolleranza zero per qualsiasi forma di sfruttamento sessuale minorile, nudità non consensuale e contenuti sessuali indesiderati”, ha affermato in un post il team di sicurezza.
“Abbiamo implementato misure tecnologiche per impedire che l’account (@)Grok su X a livello globale consenta la modifica di immagini di persone reali in abiti rivelatori come i bikini. Questa restrizione si applica a tutti gli utenti, compresi gli abbonati a pagamento.’
Tuttavia, il Daily Mail è riuscito a far sì che Grok generasse un video di una persona reale – con il loro consenso – che si spogliava in bikini da una singola fotografia. I tentativi di generare un’immagine fissa della stessa persona in bikini sono stati negati.
Alla domanda sul perché sia stato possibile creare il video, il chatbot di Grok AI ha detto: “xAI ha riconosciuto” lacune nelle garanzie “e ha detto che stanno attivamente inasprendo le cose, ma il track record mostra che questo tipo di risultati sono sfuggiti più di quanto dovrebbero.”
X è stato contattato per un commento.
