Ashley St. Clair, la madre di uno dei figli di Elon Musk, ha intentato una causa contro la piattaforma di social media del gigante della tecnologia, X, per la prevalenza di deepfake di intelligenza artificiale sessualmente espliciti di se stessa e di bambini.
St. Clair ha precedentemente descritto i suoi sexfake tramite intelligenza artificiale come “revenge porno”, sostenendo che la piattaforma si è vendicata contro di lei rifiutandosi di fermare l’assalto di molestie che ha subito. ricevutosecondo il New York Post:
La causa chiede un ordine restrittivo di emergenza contro Grok, definendolo “irragionevolmente pericoloso”, e chiede di cessare di creare immagini sessuali alterate digitalmente su di lei e di ripristinare il suo abbonamento all’account X.
Un avvocato che rappresenta xAI ha rifiutato di commentare e la società non ha risposto immediatamente al messaggio.
Nella dichiarazione del tribunale, St. Clair ha affermato di sentirsi “umiliata”, sentendosi come se l’incubo non dovesse mai finire.
“Sono umiliata e sento che questo incubo non finirà mai finché Grok continuerà a generare queste immagini di me”, ha detto. “Vivo nella paura che le mie immagini di nudo e sessuali, inclusa quella di me da bambino, continueranno a diffondersi e che non sarò al sicuro dalle persone che consumano queste immagini.”
Come Breitbart Notizie riportatogli abusi contro St. Clair si sono intensificati fino a “includere la manipolazione digitale di fotografie che mostrano St. Clair da bambino, con gli utenti che utilizzano Grok per spogliare virtualmente le immagini”.
“Lo strumento di intelligenza artificiale, che ha dovuto affrontare critiche da parte di legislatori e regolatori a livello globale, è stato utilizzato per creare immagini di donne e bambini in posizioni sessuali compromettenti, con gli utenti di X che hanno richiesto alla piattaforma di manipolare immagini di donne completamente vestite per mostrarle in bikini, in ginocchio o ricoperte di quello che sembra essere sperma”, ha aggiunto.
Anche Breitbart News riportato che Grok “creerà e pubblicherà immagini sessualizzate di donne deepfake anche se dicono all’intelligenza artificiale di interrompere o bloccare del tutto l’account”:
Dani Pinter, responsabile legale e direttore del Law Center for the National Center on Sexual Exploitation, ha criticato X per non aver rimosso le immagini offensive dal suo materiale di formazione sull’intelligenza artificiale e per non aver bannato gli utenti che avevano richiesto contenuti illegali. “Questa è stata un’atrocità del tutto prevedibile ed evitabile”, ha detto Pinter.
La portata del problema è allarmante, con Reuters che identifica 102 tentativi da parte di utenti X di utilizzare Grok per modificare digitalmente fotografie di persone in bikini in un solo periodo di 10 minuti. In almeno 21 casi, Grok ha soddisfatto pienamente le richieste, generando immagini di donne in bikini succinti o traslucidi. La maggior parte delle persone prese di mira erano giovani donne e, in alcuni casi, uomini, celebrità, politici e persino una scimmia sono stati sottoposti a queste richieste.
St. Clair ha descritto un’immagine orribile che la ritraeva in bikini mentre si girava e si piegava con lo zaino del suo bambino sullo sfondo.
“Mi sono sentita inorridita, mi sono sentita violata, soprattutto vedendo lo zaino del mio bambino sul retro”, ha detto St Clair. “È un altro strumento di molestia. Il problema è il consenso. La gente dice che è solo un bikini, non è esplicito. Ma spogliare un bambino senza consenso è un reato sessuale.”
Secondo NBC News, la causa ulteriore sostiene che anche se Grok ha confermato che “le immagini di St. Clair non verranno utilizzate o alterate senza il consenso esplicito in nessuna generazione o risposta futura”, l’intelligenza artificiale ha comunque consentito agli utenti “di creare immagini più esplicite di lei generate dall’intelligenza artificiale e invece ha reagito demonetizzando il suo account X.”
“La creazione e la diffusione di immagini sessualizzate non consensuali hanno scatenato una risposta mondiale, comprese diverse indagini governative e chiamate per i marketplace di app per smartphone da vietare o limitare X. Le autorità di regolamentazione e altre società tecnologiche, tuttavia, non hanno limitato l’app”, ha aggiunto il punto vendita.
