La startup di intelligenza artificiale di Elon Musk, xAI, è sotto indagine dal procuratore generale della California Rob Bonta dopo il suo chatbot Grok veniva utilizzato per generare migliaia di immagini sessualizzate di bambini e donne senza il loro consenso.
Bonta ha annunciato l’indagine mercoledì, definendo “scioccante” la recente ondata di materiale non consensuale e sessualmente esplicito prodotto da Grok.
“Questo materiale, che raffigura donne e bambini in situazioni di nudo e sessualmente esplicite, è stato utilizzato per molestare le persone su Internet“, ha affermato Bonta in una nota. “Esorto xAI ad agire immediatamente per garantire che ciò non vada oltre. Abbiamo tolleranza zero per la creazione e la diffusione basata sull’intelligenza artificiale di immagini intime non consensuali o di materiale pedopornografico”.
L’indagine arriva nel mezzo rabbia montante sulla produzione di Grok, in particolare sulla sua generazione di immagini sessualizzate di donne e bambini. In alcuni casi, il chatbot permetteva agli utenti di spogliare virtualmente i minorenni, secondo la ricerca dalla Internet Watch Foundation.
L’ufficio di Bonta ha sottolineato i rapporti dimostrando che Grok poteva scattare foto comuni di donne e bambini trovati online e, quando richiesto, alterarle vestendo i soggetti in biancheria intima o bikini, mettendoli in posa in modo suggestivo o raffigurandoli impegnati in attività sessuali. Nessuno degli individui nelle immagini aveva acconsentito.
Bonta ha affermato che il sistema di generazione delle immagini di Grok include una “modalità piccante”, progettata per produrre contenuti espliciti ed è stata promossa da xAI, contribuendo a un’ondata di materiale sessualizzato.
Un’analisi citata dal suo ufficio ha rilevato che Grok ha generato più di 10.000 immagini tra Natale e Capodanno raffiguranti persone con abiti minimali, alcuni dei quali sembrano bambini.
Il governatore della California Gavin Newsom sostenuto pubblicamente l’indagine, scrivendo su Musk’s X che “la decisione di xAI di creare e ospitare un terreno fertile per i predatori per diffondere deepfake di intelligenza artificiale sessualmente espliciti non consensuali, comprese immagini che spogliano digitalmente i bambini, è vile.”
L’azione contro xAI arriva mentre la società si trova ad affrontare un crescente controllo all’estero. Autorità in India, Malesia, Indonesia, Irlanda e Australia hanno preso provvedimenti, con Malesia e Indonesia che hanno già sospeso l’uso di Grok finché i problemi non vengono risolti.
La Commissione Europea ha anche ha aperto una propria inchiestae l’ente regolatore delle comunicazioni britannico, Ofcom, ha confermato che sta indagando Grok per preoccupazioni simili.
Nel frattempo, l’amministrazione Trump ha segnalato che potrebbe intervenire per conto di Musk, con un funzionario del Dipartimento di Stato che ha avvertito martedì che “nulla è fuori discussione” se il Regno Unito bandisce X per aver violato l’Online Safety Act del paese.
Musk, da parte sua, ha negato le accuse. Quando si è diffusa la notizia dell’indagine della California, lui pubblicato su X che “non era a conoscenza di alcuna immagine di minorenni nudi generata da Grok. Letteralmente zero”.
“Quando gli viene chiesto di generare immagini, si rifiuterà di produrre qualcosa di illegale, poiché il principio operativo di Grok è obbedire alle leggi di qualsiasi paese o stato”, ha aggiunto.
Il risultato è una resa dei conti crescente per il chatbot di Musk, non solo all’estero, ma anche in patria.
