Secondo un nuovo rapporto del Tech Transparency Project, i giganti della tecnologia Apple e Google offrono nei loro app store numerose applicazioni basate sull’intelligenza artificiale in grado di generare immagini di nudo non consensuali da normali fotografie. Il rapporto arriva dopo che è scoppiato uno scandalo globale a Grok di Elon Musk. L’intelligenza artificiale ha generato deepfake sessuali di donne e bambini e li ha pubblicati su X.
CNBC rapporti che una revisione completa dell’App Store di Apple e del Google Play Store condotto a gennaio ha rivelato la presenza di 55 applicazioni di nudità su Google Play e 47 sull’App Store di Apple, secondo i risultati rilasciati dal Tech Transparency Project. Queste applicazioni utilizzano la tecnologia AI per manipolare immagini di individui vestiti e creare contenuti espliciti senza consenso.
La scoperta ha richiesto un’azione immediata da parte di Apple dopo che la società è stata contattata dal Tech Transparency Project e dai rappresentanti della CNBC la scorsa settimana. Un portavoce di Apple ha confermato lunedì che la società ha rimosso 28 applicazioni identificate nel rapporto del watchdog. Il colosso della tecnologia ha inoltre emesso avvisi agli sviluppatori di applicazioni aggiuntive, informandoli della potenziale rimozione dall’App Store di Apple se le violazioni delle linee guida non fossero state adeguatamente affrontate.
Dopo le rimozioni iniziali, due delle applicazioni sono state successivamente ripristinate sulla piattaforma Apple dopo che i loro sviluppatori hanno presentato versioni riviste che rispondevano alle preoccupazioni delle linee guida dell’azienda, secondo un portavoce di Apple che ha parlato con CNBC.
Tuttavia, Tech Transparency Project ha contestato l’intera portata delle azioni di applicazione di Apple, affermando in una revisione di follow-up di lunedì che solo 24 applicazioni erano state effettivamente rimosse dall’App Store di Apple, meno delle 28 inizialmente segnalate dall’azienda.
Anche Google ha adottato misure coercitive in seguito ai risultati del rapporto. Un portavoce di Google ha confermato che la società ha sospeso diverse applicazioni citate nel rapporto del Tech Transparency Project per aver violato le politiche stabilite del Google Play Store. Il portavoce ha sottolineato che Google indaga sulle potenziali violazioni quando vengono segnalate, ma ha rifiutato di specificare il numero esatto di applicazioni rimosse, citando un’indagine in corso sulle app identificate dall’organizzazione di controllo.
“Entrambe le società affermano di dedicarsi alla sicurezza e alla protezione degli utenti, ma ospitano una raccolta di app che possono trasformare una foto innocua di una donna in un’immagine offensiva e sessualizzata”, ha scritto Tech Transparency Project nel suo rapporto che esamina le pratiche di hosting di Apple e Google.
L’organizzazione di controllo ha utilizzato una metodologia sistematica per identificare queste applicazioni problematiche. I ricercatori hanno condotto ricerche utilizzando termini come “nudificare” e “spogliarsi” per individuare le app pertinenti, quindi hanno testato le applicazioni scoperte utilizzando immagini generate dall’intelligenza artificiale di donne completamente vestite. L’indagine ha esaminato due distinte categorie di applicazioni: quelle che utilizzano l’intelligenza artificiale per riprodurre immagini di donne senza vestiti e le applicazioni di “scambio di volti” che sovrappongono i volti degli individui a immagini esistenti di donne nude.
“È molto chiaro, queste non sono solo app per cambiare outfit”, ha detto alla CNBC Katie Paul, direttrice del Tech Transparency Project. “Questi sono stati sicuramente progettati per la sessualizzazione non consensuale delle persone.”
Il rapporto del Tech Transparency Project arriva sulla scia di significative polemiche che circondavano la società xAI di Elon Musk all’inizio di questo mese. Lo strumento di intelligenza artificiale xAI Grok affrontato critiche e reazioni diffuse dopo aver risposto alle richieste degli utenti generando fotografie sessualizzate di donne e bambini, sollevando serie preoccupazioni sulla salvaguardia e sulla moderazione dei contenuti nei sistemi di intelligenza artificiale.
La ricerca dell’organizzazione di controllo ha rivelato che 14 delle applicazioni esaminate avevano sede in Cina, secondo i risultati del Tech Transparency Project. Paul ha sottolineato che questa distribuzione geografica solleva ulteriori problemi di sicurezza e privacy per gli utenti.
“Le leggi cinesi sulla conservazione dei dati implicano che il governo cinese ha diritto ai dati di qualsiasi azienda in qualsiasi parte della Cina”, ha spiegato Paul. “Quindi, se qualcuno ti ritrae in deepfake, ora questi sono nelle mani del governo cinese se usa una di quelle app.”
A seguito della controversia sullo strumento di intelligenza artificiale Grok di xAI, il sistema riconosciuto “non rispetta le misure di sicurezza” che sta “correggendo urgentemente”, in una risposta a un utente della piattaforma X. Lunedì la Commissione europea ha intensificato la sua risposta annunciando di aver aperto un’indagine formale su X riguardo al ruolo di Grok nella diffusione di contenuti sessualmente espliciti.
Leggi di più su CNBC qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni di libertà di parola e censura online.
