Apple e Google continuano a offrire app di “nudificazione” che consentono agli utenti di creare pornografia deepfake di persone reali generata dall’intelligenza artificiale, nonostante entrambe le società mantengano politiche che vietano esplicitamente tali contenuti, secondo un nuovo rapporto.
Bloomberg rapporti che un rapporto pubblicato mercoledì dal Progetto di trasparenza tecnologica ha rivelato che i giganti della tecnologia Apple e Google stanno ancora ospitando app che consentono agli utenti di creare immagini deepfake di nudo o parzialmente nudo non consensuali di persone reali. I risultati evidenziano le continue sfide di applicazione delle norme nonostante le politiche dichiarate dalle aziende contro tali contenuti.
L’organismo di ricerca trovato che gli utenti possono accedere facilmente a queste app cercando termini come “nudificare” e “spogliarsi” sia nell’Apple App Store che nel Google Play Store. Le applicazioni possono essere utilizzate per alterare digitalmente le immagini sia delle celebrità che del pubblico in generale per farle apparire nude o parzialmente svestite.
Secondo il rapporto, le aziende non si limitano a ospitare queste app, ma indirizzano attivamente gli utenti verso di esse attraverso risultati di ricerca e pubblicità. Il Tech Transparency Project ha identificato 18 app con funzionalità di nudizzazione nell’Apple App Store e 20 nel Google Play Store. Entrambe le piattaforme utilizzano anche le funzionalità di completamento automatico per suggerire nomi di app di nudità aggiuntive mentre gli utenti digitano i termini di ricerca.
La portata del problema è notevole. Secondo le stime del ricercatore di mercato AppMagic, le app identificate dal gruppo di ricerca sono state scaricate complessivamente 483 milioni di volte e hanno generato entrate per circa 122 milioni di dollari. Un portavoce di AppMagic ha confermato che il lavoro del Tech Transparency Project ha portato alla rimozione di diverse app e ha spinto altri a modificare le proprie politiche utente.
La questione non è nuova. All’inizio di quest’anno, entrambe le società RIMOSSO app che erano state segnalate dal Tech Transparency Project. Tuttavia, i ricercatori hanno scoperto che già pochi mesi dopo si potevano trovare dozzine di applicazioni simili su entrambe le piattaforme. Questo modello ha suscitato un maggiore controllo da parte dei politici di tutto il mondo che hanno intensificato gli appelli per frenare la diffusione delle app di nudismo nell’ultimo anno.
Alcune delle app identificate utilizzavano nomi e immagini che le collocavano esplicitamente in un contesto sessuale. Altri venivano commercializzati in modo più sottile ma potevano essere facilmente utilizzati per creare contenuti sessualizzati, offrendo maggiore comodità rispetto ai tradizionali software di fotoritocco. Molte di queste app offrivano servizi di abbonamento.
Sia Apple che Google mantengono politiche che dovrebbero impedire a tali app di apparire sulle loro piattaforme. Le linee guida dell’App Store di Apple per gli sviluppatori vietano esplicitamente “materiale apertamente sessuale o pornografico”. Le politiche del Google Play Store vietano “le app che degradano o oggettivano le persone, come le app che pretendono di spogliare le persone o di vedere attraverso gli abiti, anche se etichettate come app di scherzo o di intrattenimento”.
A seguito dell’indagine di Bloomberg sul rapporto, Apple ha rimosso 15 app identificate dal gruppo di ricerca. Tra quelli rimossi c’era “PicsVid AI Hot Video Generator”, che offre modelli con donne in pose sessualmente allusive. Apple ha inoltre contattato gli sviluppatori di sei app aggiuntive per avvisarli di problemi legati alle policy e di potenziale rimozione. La società ha dichiarato che altre app menzionate nel rapporto non hanno violato le sue linee guida e ha notato di aver rifiutato in modo proattivo molte app e rimosso altre.
Google ha riferito che molte delle app citate nel rapporto sono state sospese da Google Play per violazioni delle norme, con un’indagine in corso. “Quando ci vengono segnalate violazioni delle nostre politiche, indaghiamo e adottiamo le misure appropriate”, ha affermato la società.
Le autorità di regolamentazione richiedono sempre più un’azione più forte da parte delle aziende tecnologiche. L’anno scorso, il presidente Donald Trump firmato il Take It Down Act, che criminalizza la pubblicazione di contenuti sessuali non consensuali e richiede che le piattaforme di social media e i siti web rimuovano tali post. Ad aprile, il governo del Regno Unito prevede di introdurre una legislazione che creerebbe un percorso per perseguire penalmente i dirigenti tecnologici le cui aziende non riescono a rimuovere tali immagini.
Nel bestseller istantaneo Codice Rosso: La Sinistra, la Destra, la Cina e la corsa al controllo dell’IAWynton Hall, direttore e autore dei social media di Breitbart News, sottolinea che l’intelligenza artificiale viene “utilizzata per generare materiale pedopornografico (CSAM)”.
Sala scrive“Ad esempio, gli strumenti di intelligenza artificiale possono creare rapidamente e facilmente ‘deepfake’ studiando fotografie reali di bambini vittime di abusi per generare nuove immagini che mostrano quei bambini in posizioni sessuali. Ciò comporta la sovrapposizione del volto di una persona sul corpo di un’altra.”
Leggi di più su Bloomberg qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni relative all’intelligenza artificiale, alla libertà di parola e alla censura online.
