La Commissione europea ha avviato un’indagine formale sulla piattaforma di social media X di Elon Musk per lo scandalo incentrato sulla sua intelligenza artificiale Grok che generava immagini deepfake sessualizzate di donne e bambini.
Notizie della BBC rapporti che l’organo esecutivo dell’UE ha annunciato l’apertura di un’indagine a seguito di un’azione simile preso da Ofcom, l’autorità di regolamentazione delle comunicazioni del Regno Unito, all’inizio di questo mese. L’indagine è incentrata sulla questione se X abbia violato le disposizioni della legge sui servizi digitali dell’UE nella supervisione e nella gestione delle capacità di generazione di immagini dello strumento AI Grok.
Ai sensi del Digital Services Act, se la Commissione determina che X ha violato i propri obblighi, la società potrebbe dover affrontare sanzioni finanziarie consistenti fino al 6% delle sue entrate annuali globali. L’indagine rappresenta l’ultima sfida normativa che deve affrontare la piattaforma di social media di proprietà di Musk.
L’account di sicurezza di X in precedenza ha rilasciato una dichiarazione indicando che la piattaforma aveva implementato misure per impedire a Grok di manipolare digitalmente immagini di persone per togliersi i vestiti nelle giurisdizioni in cui tali contenuti sono illegali. Tuttavia, le autorità di regolamentazione e i legislatori hanno espresso preoccupazione sul fatto che queste garanzie siano sufficienti a proteggere gli utenti in tutta l’Unione Europea.
Regina Doherty, membro del Parlamento europeo che rappresenta l’Irlanda, ha spiegato che la Commissione valuterà se immagini sessualmente esplicite manipolate siano state mostrate agli utenti all’interno dell’UE. L’indagine esaminerà la conformità di X ai requisiti legali volti a proteggere i cittadini dai contenuti dannosi.
Gli attivisti e le persone colpite da tali deepfake hanno affermato che la capacità di generare immagini sessualmente esplicite utilizzando lo strumento non avrebbe mai dovuto essere consentita. Ofcom ha confermato che la sua indagine separata nel Regno Unito continuerà indipendentemente dal procedimento dell’UE.
Il regolatore europeo ha indicato che potrebbe imporre misure provvisorie se X non riuscirà ad attuare aggiustamenti significativi per affrontare le preoccupazioni. Inoltre, la Commissione ha annunciato un ampliamento dell’indagine in corso iniziata nel dicembre 2023, che esamina i rischi associati al sistema di raccomandazioni di X, i processi algoritmici che determinano quali post vengono mostrati ai singoli utenti.
Henna Virkkunen, vicepresidente esecutivo per la sovranità tecnologica, la sicurezza e la democrazia presso la Commissione, ha definito i deepfake sessuali una “forma di degrado violenta e inaccettabile”.
“Con questa indagine, determineremo se X ha adempiuto ai suoi obblighi legali ai sensi del DSA, o se ha trattato i diritti dei cittadini europei – compresi quelli di donne e bambini – come un danno collaterale del suo servizio”, ha affermato.
L’indagine sulle pratiche di X non è isolata nell’Unione europea. Indagini simili sul chatbot della piattaforma sono attualmente in corso in Australia, Francia e Germania. Grok ha subito divieti temporanei in Indonesia e Malesia, anche se da allora le autorità malesi hanno revocato il divieto.
In una dichiarazione a Reuters, Doherty ha sollevato “serie domande” sul fatto che piattaforme come X stiano adempiendo ai loro obblighi legali “di valutare adeguatamente i rischi e di prevenire la diffusione di contenuti illegali e dannosi”.
“L’Unione Europea ha regole chiare per proteggere le persone online”, ha affermato. “Tali regole devono significare qualcosa nella pratica, soprattutto quando tecnologie potenti vengono utilizzate su larga scala. Nessuna azienda che opera nell’UE è al di sopra della legge.”
L’ultima indagine arriva circa un mese dopo che l’UE ha imposto a X una multa di 140 milioni di dollari non seguendo le sue leggi sulla censura.
Le azioni normative hanno innescato una risposta diplomatica da parte degli Stati Uniti. Il segretario di Stato Marco Rubio e la FCC hanno accusato l’autorità di regolamentazione dell’UE di prendere di mira e censurare le aziende americane.
“La multa della Commissione Europea non è solo un attacco a X, è un attacco a tutte le piattaforme tecnologiche americane e al popolo americano da parte di governi stranieri”, ha detto.
Musk ha amplificato questi sentimenti ripubblicando le osservazioni di Rubio con l’aggiunta di “assolutamente”, segnalando il suo accordo con la caratterizzazione delle azioni normative dell’UE come un attacco alle società tecnologiche americane.
Leggi di più su Notizie della BBC qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni di libertà di parola e censura online.
