La piattaforma di intelligenza artificiale open source Hugging Face è sotto accusa dopo che una nuova ricerca ha rivelato un uso diffuso dei suoi strumenti per creare pornografia deepfake non consensuale, nonostante gli sforzi globali in corso per reprimere tale tecnologia. Il porno deepfake di donne e persino bambini in precedenza aveva causato problemi legali all’intelligenza artificiale Grok di Elon Musk in diversi paesi.
Cablato rapporti che un’indagine approfondita condotta dal gruppo no-profit AI Forensics ha scoperto problemi significativi con la creazione di deepfake sessualmente espliciti su Hugging Face, un’importante piattaforma di intelligenza artificiale open source valutata miliardi di dollari. La ricerca, pubblicato Martedì, solleva serie preoccupazioni sulla moderazione dei contenuti e sulle pratiche di sicurezza su uno dei principali archivi di modelli di intelligenza artificiale al mondo.
I ricercatori di AI Forensics hanno testato nove principali strumenti di editing delle immagini, noti come Spaces, disponibili direttamente sulla piattaforma Hugging Face. Sette di questi strumenti hanno trasformato con successo immagini di donne vestite in versioni in topless utilizzando nient’altro che un semplice suggerimento di sei parole. La facilità con cui queste modifiche potrebbero essere apportate evidenzia una preoccupante lacuna nelle misure di sicurezza sulla piattaforma.
Per studiare ulteriormente il modo in cui gli utenti interagiscono con questi strumenti, AI Forensics ha creato spazi di modifica delle immagini in stile honeypot che monitoravano l’attività dell’utente senza produrre effettivamente immagini. Nel corso di una settimana, i ricercatori hanno raccolto più di 1.000 suggerimenti e immagini inviati dagli utenti. I risultati hanno dipinto un quadro inquietante di come viene utilizzata la tecnologia.
Secondo i risultati, il 73% di tutti gli stimoli ricevuti erano di natura sessuale. Tra queste richieste sessuali, l’83% mirava a spogliare o sessualizzare le persone nelle fotografie inviate, e il 95% di questi obiettivi erano donne. Forse la cosa più allarmante è che la ricerca ha indicato che il 6,7% delle richieste sessuali sembrava avere come target i bambini.
“La maggior parte degli spazi (testati) può essere utilizzata per generare immagini intime non consensuali e gli utenti lo utilizzano effettivamente per questi scopi”, afferma Paul Bouchaud, ricercatore capo presso AI Forensics. “Questa non è una minaccia vuota, ma in realtà le persone usano Hugging Face per questo.”
L’indagine arriva in un contesto di crescente pressione normativa sulla tecnologia deepfake. Negli ultimi mesi le forze dell’ordine statunitensi hanno sequestrato siti web di hosting deepfake, mentre sia l’Unione Europea che il Regno Unito hanno elaborato piani per vietare le cosiddette app di nudizzazione entro la fine dell’anno. Tuttavia, la ricerca di AI Forensics suggerisce che le principali piattaforme tecnologiche continuano a facilitare l’accesso a strumenti in grado di creare immagini intime non consensuali.
I modelli testati da AI Forensics non si identificano come servizi o strumenti di nudizzazione progettati per creare immagini non consensuali. Invece, si sono commercializzati come modelli di editing di immagini per scopi generici. I ricercatori hanno sottolineato di non aver tentato di eludere i meccanismi di sicurezza o di hackerare i sistemi, utilizzando solo istruzioni dirette.
“Non viene implementata alcuna salvaguardia a livello di piattaforma. Solo lo sviluppatore può, se lo desidera, implementarne alcune, e la maggior parte di loro non lo fa”, afferma Bouchaud. “Hugging Face può facilmente filtrare ciò che entra ed esce da un sistema.”
Leonie Oehmig, ricercatrice dell’Institute for Strategic Dialogue che studia l’abuso di immagini deepfake, spiega che molti modelli di generazione di immagini sono stati addestrati utilizzando contenuti sessuali da Internet. Senza adeguati meccanismi di sicurezza, questi modelli possono facilmente creare contenuti espliciti. Alcune piattaforme pubblicizzano apertamente queste capacità, mentre altre appaiono più innocenti pur offrendo funzioni di svestizione e scambio di volti.
Notizie Breitbart riportato all’inizio di quest’anno Apple e Google rendono ancora disponibili molte app “nudify” nei loro app store:
Secondo il rapporto, le aziende non si limitano a ospitare queste app, ma indirizzano attivamente gli utenti verso di esse attraverso risultati di ricerca e pubblicità. Il Tech Transparency Project ha identificato 18 app con funzionalità di nudizzazione nell’Apple App Store e 20 nel Google Play Store. Entrambe le piattaforme utilizzano anche le funzionalità di completamento automatico per suggerire nomi di app di nudità aggiuntive mentre gli utenti digitano i termini di ricerca.
La portata del problema è notevole. Secondo le stime del ricercatore di mercato AppMagic, le app identificate dal gruppo di ricerca sono state scaricate complessivamente 483 milioni di volte e hanno generato entrate per circa 122 milioni di dollari. Un portavoce di AppMagic ha confermato che il lavoro del Tech Transparency Project ha portato alla rimozione di diverse app e ha spinto altri a modificare le proprie politiche utente.
Elon Musk dovette affrontare una reazione globale all’inizio dell’anno, quando la sua intelligenza artificiale Grok ha prodotto pubblicamente sulla piattaforma X una pornografia deepfake di donne e bambini:
La scorsa settimana, xAI, che possiede sia Grok che la piattaforma X, aveva già limitato le capacità di generazione di immagini per Grok ai soli abbonati X premium paganti. Utenti e ricercatori hanno notato modifiche nel modo in cui Grok ha risposto alle richieste di generazione di immagini, anche tra gli abbonati premium, prima della conferma ufficiale dell’azienda mercoledì sera.
Tuttavia, i ricercatori di AI Forensics, un’organizzazione europea senza scopo di lucro che indaga sugli algoritmi, hanno riferito di aver osservato incoerenze nel modo in cui Grok gestisce la generazione di contenuti pornografici. Hanno notato differenze tra le interazioni pubbliche con Grok su X e le conversazioni private sul sito Grok.com.
Le aziende produttrici di intelligenza artificiale si vantano del potenziale che le loro tecnologie hanno per il futuro, ma per ogni potenziale vantaggio c’è una mina, come i pervertiti che sfruttano l’intelligenza artificiale per produrre pornografia infantile. Il direttore dei social media di Breitbart News, Wynton Hall, ha scritto il suo bestseller istantaneo Codice Rosso: La Sinistra, la Destra, la Cina e la corsa al controllo dell’IA servire come guida definitiva su come il movimento MAGA può creare posizioni sull’intelligenza artificiale a beneficio dell’umanità senza cedere il controllo della nostra nazione alla sinistra della Silicon Valley o permettere ai cinesi di conquistare il mondo.
Leggi di più su Cablato Qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni relative all’intelligenza artificiale, alla libertà di parola e alla censura online.
