Ashley St. Clair, un’influencer conservatrice che è la madre di uno dei figli di Elon Musk, ha citato in giudizio xAI per immagini sessualmente esplicite generate da Grok, il chatbot AI dell’azienda.
Secondo molteplici resoconti mediaticigiovedì St. Clair ha intentato una causa contro la compagnia del suo ex, sostenendo che la piattaforma generava e faceva circolare immagini deepfake sessuali di lei – sia da adulta che da bambina – attraverso X (un’altra delle società di Musk).
“L’imputato xAI, un gigante della tecnologia con ogni strumento e vantaggio a sua disposizione, ha scelto di chiudere volontariamente un occhio e persino celebrare lo sfruttamento sessuale di donne e bambini”, si legge nella causa.
Il documento continua: “Il prodotto di xAI Grok, un chatbot di intelligenza artificiale generativa (“AI”), utilizza l’intelligenza artificiale per spogliare, umiliare e sfruttare sessualmente le vittime, creando contenuti deepfake alterati e dall’aspetto autentico dei bambini.”
Inoltre, la causa afferma che St. Clair avrebbe allertato xAI dei preoccupanti deepfake, in cui veniva ritratta come “una bambina spogliata di un bikini a stringhe” e “come un’adulta in pose sessualmente esplicite”.
Il campo di St. Clair sostiene che Grok ha confermato che le sue immagini “non sarebbero state utilizzate o alterate senza consenso esplicito in nessuna generazione o risposta futura”, ma che xAI ha continuato a consentire agli utenti di creare rappresentazioni esplicite di lei.
In una dichiarazione a Persone giovedì, l’avvocato di St. Clair Carrie Goldberg ha criticato xAI, affermando: “xAI non è un prodotto ragionevolmente sicuro ed è un fastidio pubblico”.
Goldberg ha continuato: “Nessuno ha sopportato il peso più di Ashley St. Clair. Ashley ha intentato una causa perché Grok la stava molestando creando e distribuendo sue immagini non consensuali, offensive e degradanti e pubblicandole su X.”
La causa di St. Clair fa seguito alla decisione di mercoledì del procuratore generale della California Rob Bonta di avviare un’indagine su Grok. All’epoca, il governatore Gavin Newsom chiamò la compagnia su X, scrivere“La decisione di xAI di creare e ospitare un terreno fertile per i predatori per diffondere deepfake AI sessualmente espliciti non consensuali, comprese immagini che spogliano digitalmente i bambini, è vile.”
Mentre Musk e xAI devono ancora rilasciare una dichiarazione, giovedì la società ha citato in giudizio St. Clair in un tribunale federale del Texas, accusandola di “violazione del contratto” e chiedendo danni per oltre $ 75.000.
“La convenuta Ashley St. Clair ha registrato un account sulla piattaforma del querelante e, così facendo, ha accettato i Termini di servizio di xAI, che obbligano la convenuta a portare qualsiasi controversia tra se stessa e xAI LLC – e le affiliate di xAI – esclusivamente in questa Corte o nei tribunali statali situati nella contea di Tarrant”, ha affermato documento stati. “Nonostante questo chiaro accordo di intentare una causa in Texas, l’imputata ha comunque dichiarato la sua intenzione di citare in giudizio xAI Holdings a circa 1600 miglia di distanza presso il tribunale statale di New York.”
