Lo strumento, ospitato su X, consente agli utenti di nudizzare immagini o rappresentare sessualmente altri fino a oggi.
Grok si differenzia dalle altre piattaforme generatrici di intelligenza artificiale poiché le immagini sono condivise pubblicamente e possono essere facilmente diffuse.
Dalla fine dello scorso anno, la eSafety Commission ha ricevuto diverse segnalazioni di utilizzo di Grok per generare immagini sessualizzate inconsensuali.
“Alcuni rapporti si riferiscono a immagini di adulti, che vengono valutate secondo il nostro schema di abuso basato su immagini, mentre altri si riferiscono a materiale potenziale di sfruttamento sessuale minorile, che viene valutato secondo il nostro schema di contenuti illegali e limitati”, ha detto un portavoce.
Le segnalazioni degli adulti sono attualmente in fase di valutazione, mentre le segnalazioni dei bambini non raggiungono la soglia per il materiale relativo allo sfruttamento sessuale minorile.
eSafety non ha intrapreso alcuna azione, ma si è detta preoccupata per l’uso dell’intelligenza artificiale generativa.
“eSafety rimane preoccupata per il crescente utilizzo dell’intelligenza artificiale generativa per sessualizzare o sfruttare le persone, in particolare quando sono coinvolti i bambini”, ha affermato il portavoce.
L’analisi della società no-profit AI Forensics ha dichiarato in un rapporto di aver analizzato 20.000 immagini generate da Grok tra il 25 dicembre e il 1 gennaio e ha scoperto che il 2% raffigurava una persona che sembrava avere 18 anni o meno, tra cui 30 donne o ragazze giovani o molto giovani, in bikini o abiti trasparenti.
Una delle vittime include l’ex compagna di Musk, Ashley St Clair, che si è allontanata dal miliardario della tecnologia dopo la nascita del loro figlio nel 2024.
Ha detto Il Guardiano gli utenti hanno utilizzato Grok per creare “revenge porno”.
“Mi sono sentita inorridita, mi sono sentita violata, soprattutto vedendo lo zaino del mio bambino sul retro”, ha detto alla pubblicazione.
X non ha negato l’esistenza di contenuti sessualizzati non consensuali su Grok, ma ha avvertito che gli utenti potrebbero essere sospesi o deferiti alle forze dell’ordine.
“Agiamo contro i contenuti illegali presenti su X, compreso il materiale pedopornografico, rimuovendoli, sospendendo permanentemente gli account e collaborando con i governi locali e le forze dell’ordine, se necessario”, ha affermato X attraverso il suo account Safety.
“Chiunque utilizzi o incoraggi Grok a creare contenuti illegali subirà le stesse conseguenze come se caricasse contenuti illegali.”
Ma i governi e le autorità di regolamentazione di tutto il mondo hanno chiesto alla piattaforma di Musk di fare di più per combattere i contenuti offensivi.
Il ministro della Tecnologia del Regno Unito, Liz Kendall, ha affermato che il contenuto è “assolutamente spaventoso e inaccettabile in una società decente”.
“Non possiamo e non permetteremo la proliferazione di queste immagini umilianti e degradanti, che sono rivolte in modo sproporzionato a donne e ragazze”, ha affermato.
L’autorità di regolamentazione delle comunicazioni del paese, Ofcom, ha affermato di aver stabilito un “contatto urgente” con X.
L’Unione europea ha dichiarato di essere a conoscenza del contenuto e ha condannato fermamente Grok.
“Questo non è piccante. Questo è illegale. Questo è spaventoso. Questo è disgustoso. Questo è il modo in cui lo vediamo, e questo non ha posto in Europa. Questa non è la prima volta che Grok genera tali risultati”, ha detto il portavoce della Commissione europea Thomas Regnier.
Anche Francia, Polonia, India, Malesia e Brasile hanno chiesto a Musk di attuare regole severe e di agire.
– Con Associated Press
