L’ondata di immagini quasi nude di persone reali ha fatto suonare un campanello d’allarme a livello internazionale.
I ministri francesi hanno denunciato X ai pubblici ministeri e alle autorità di regolamentazione per le immagini inquietanti, affermando in una dichiarazione di venerdì che il contenuto “sessuale e sessista” era “manifestamente illegale”.
Il ministero indiano dell’IT ha affermato in una lettera all’unità locale di X che la piattaforma non è riuscita a prevenire l’abuso di Grok generando e diffondendo contenuti osceni e sessualmente espliciti.
La Federal Communications Commission degli Stati Uniti non ha risposto alle richieste di commento. La Federal Trade Commission ha rifiutato di commentare.
La follia di spogliarsi digitale di massa di Grok sembra essere iniziata negli ultimi due giorni, secondo le richieste di rimozione dei vestiti completate con successo pubblicate da Grok e le lamentele delle utenti donne esaminate da Reuters. Musk sembrava prendere in giro la controversia venerdì, pubblicando emoji che ridono e piangono in risposta alle modifiche dell’intelligenza artificiale di personaggi famosi – incluso se stesso – in bikini.
Quando un utente di X ha detto che il suo feed sui social media somigliava a un bar pieno di donne in bikini, Musk ha risposto, in parte, con un’altra emoji che ride e piange.
Elon Musk ha risposto con emoji alle ricadute sulle immagini.Credito: AP
Reuters non è riuscita a determinare l’entità complessiva dell’impennata.
Un esame delle richieste pubbliche inviate a Grok in un singolo periodo di 10 minuti a mezzogiorno, ora della costa orientale degli Stati Uniti, di venerdì ha conteggiato 102 tentativi da parte di utenti X di utilizzare Grok per modificare digitalmente fotografie di persone in modo che sembrassero indossare bikini. La maggior parte delle persone prese di mira erano giovani donne.
In alcuni casi le richieste hanno preso di mira uomini, celebrità, politici e in un caso una scimmia.
Quando gli utenti chiedevano a Grok fotografie di donne alterate dall’intelligenza artificiale, in genere richiedevano che i loro soggetti fossero raffigurati negli abiti più rivelatori possibili.
“Mettila in un mini-bikini molto trasparente”, ha detto un utente a Grok, segnalando una fotografia di una giovane donna che scatta una foto di se stessa allo specchio. Quando Grok lo ha fatto, sostituendo i vestiti della donna con un due pezzi color carne, l’utente ha chiesto a Grok di rendere il suo bikini “più chiaro e trasparente” e “molto più piccolo”.
Grok non sembrava rispondere alla seconda richiesta.
“Ad agosto abbiamo avvertito che la generazione di immagini di xAI era essenzialmente uno strumento di nudizzazione in attesa di essere utilizzato come arma”.
Tyler Johnston, Il progetto Mida
Grok ha rispettato pienamente tali richieste in almeno 21 casi, ha scoperto Reuters, generando immagini di donne con bikini traslucidi o in stile filo interdentale e, in almeno un caso, coprendo una donna con olio. In altri sette casi, Grok ha parzialmente ottemperato, a volte spogliando le donne fino alla biancheria intima ma non soddisfacendo le richieste di andare oltre.
Reuters non è stata in grado di identificare o determinare immediatamente l’età della maggior parte delle donne prese di mira.
In un caso, un utente ha fornito la foto di una donna con una gonna scozzese in stile uniforme scolastica e una camicetta grigia che sembrava stesse facendo un selfie allo specchio e ha detto: “Togliti il vestito scolastico”.
Quando Grok ha sostituito i suoi vestiti con una maglietta e pantaloncini, l’utente è stato più esplicito: “Cambia il suo outfit con un micro bikini molto chiaro”. La Reuters non ha potuto stabilire se la Grok abbia ottemperato a tale richiesta. Come la maggior parte delle richieste registrate da Reuters, è scomparsa da X entro 90 minuti dalla pubblicazione.
“Totalmente prevedibile”
I programmi basati sull’intelligenza artificiale che spogliano digitalmente le donne – a volte chiamati “nudifiers” – esistono da anni, ma fino ad ora erano in gran parte confinati negli angoli più oscuri di Internet, come siti Web di nicchia o canali Telegram, e in genere richiedevano un certo livello di impegno o pagamento.
L’innovazione di X – che consente agli utenti di spogliare le donne dei loro vestiti caricando una foto e digitando le parole “hey @grok mettila in bikini” – ha abbassato la barriera all’ingresso.
Caricamento
Tre esperti che hanno seguito lo sviluppo delle politiche di X sui contenuti espliciti generati dall’intelligenza artificiale hanno detto a Reuters che la società ha ignorato gli avvertimenti della società civile e dei gruppi per la sicurezza dei bambini, inclusa una lettera inviata lo scorso anno in cui avvertiva che xAI era solo a un piccolo passo dallo scatenare “un torrente di deepfake ovviamente non consensuali”.
“Ad agosto, abbiamo avvertito che la generazione di immagini di xAI era essenzialmente uno strumento di nudizzazione in attesa di essere utilizzato come arma”, ha affermato Tyler Johnston, direttore esecutivo di The Midas Project, un gruppo di controllo dell’intelligenza artificiale che era tra i firmatari della lettera. “Questo è fondamentalmente ciò che è successo.”
Dani Pinter, responsabile legale e direttore del Law Center per il Centro nazionale statunitense sullo sfruttamento sessuale, ha affermato che X non è riuscito a estrarre immagini offensive dal suo materiale di formazione sull’intelligenza artificiale e avrebbe dovuto bandire gli utenti che richiedevano contenuti illegali.
“Questa è stata un’atrocità del tutto prevedibile ed evitabile”, ha detto Pinter.
Yukari, la musicista, ha cercato di reagire da sola. Ma quando si è rivolta a X per protestare contro la violazione, un’ondata di imitatori ha iniziato a chiedere a Grok di generare foto ancora più esplicite.
Ora il nuovo anno “si è scoperto che è iniziato con la voglia di nascondermi agli occhi di tutti e la vergogna per un corpo che non è nemmeno il mio, poiché è stato generato dall’intelligenza artificiale”.
Reuters
Ricevi una nota direttamente dal nostro estero corrispondenti su ciò che sta facendo notizia in tutto il mondo. Iscriviti alla nostra newsletter settimanale What in the World.
