Una coalizione di oltre 200 organizzazioni ed esperti a difesa dei bambini ha pubblicato una lettera aperta chiedendo a YouTube di Google di vietare completamente i contenuti slop generati dall’intelligenza artificiale dalla sua piattaforma per bambini.
Fortuna rapporti che la lettera, organizzato dal gruppo di difesa dei bambini Fairplay e indirizzato al CEO di YouTube Neal Mohan e al CEO di Google Sundar Pichai, ha raccolto le firme di oltre 135 organizzazioni tra cui l’American Counseling Association. Anche ricercatori di spicco come Jonathan Haidt, autore di The Anxious Generation, hanno dato il loro sostegno alla campagna.
Il termine AI slop si riferisce a video prodotti in serie e generati algoritmicamente che hanno iniziato a inondare piattaforme come YouTube. Questi video sono poco costosi da produrre, spesso presentano contenuti bizzarri o privi di senso e sono progettati specificamente per catturare e mantenere l’attenzione dei giovani spettatori. Il contenuto spazia da animali dei cartoni animati che eseguono compiti ripetitivi in uno stile visivo inquietante a falsi video educativi contenenti informazioni confuse, nonché cicli ipnotici senza uno scopo chiaro. Un’indagine di febbraio del New York Times ha documentato come tale materiale sia stato incorporato in YouTube Kids, nonostante il marketing della piattaforma come un ambiente sicuro e curato per i bambini.
Notizie Breitbart precedentemente riportato su uno studio che dimostra che YouTube inserisce video di intelligenza artificiale nei feed dei giovani utenti:
Uno studio condotto dalla società di editing video Kapwing ha rivelato che oltre il 20% dei video consigliati ai nuovi utenti di YouTube sono “AI slop”: contenuti di bassa qualità generati dall’intelligenza artificiale progettati per raccogliere visualizzazioni e monetizzare l’attenzione. I ricercatori hanno esaminato 15.000 dei canali YouTube più popolari in tutto il mondo e hanno scoperto che 278 di essi presentano esclusivamente slop basati sull’intelligenza artificiale.
Collettivamente, questi canali di intelligenza artificiale hanno accumulato oltre 63 miliardi di visualizzazioni e 221 milioni di abbonati, generando circa 117 milioni di dollari di entrate annuali. Quando i ricercatori hanno creato un nuovo account YouTube, hanno scoperto che 104 dei primi 500 video consigliati erano errori di intelligenza artificiale, mentre un terzo dei contenuti rientrava nella categoria “brainrot”, che include sia errori di intelligenza artificiale che altri video di bassa qualità che attiravano l’attenzione.
Rachel Franz, direttrice del programma Young Children Thrive Offline di Fairplay, ha spiegato le preoccupazioni legate allo sviluppo in gioco. “Gran parte dei contenuti generati dall’intelligenza artificiale sono davvero progettati per dirottare l’attenzione dei bambini, in particolare quelli piccoli che sono appena all’inizio dello sviluppo del controllo degli impulsi, e possono davvero distorcere la realtà, creare confusione e influenzare il modo in cui i bambini comprendono il mondo che li circonda”, ha detto. Franz ha sottolineato che ciò va oltre la responsabilità genitoriale, sottolineando che “la piattaforma raccomanda costantemente contenuti basati sull’intelligenza artificiale ai giovani utenti in modi che rendono loro quasi impossibile evitarli”.
La portata finanziaria del fenomeno è notevole. Secondo la ricerca di Fairplay, i principali canali di intelligenza artificiale rivolti ai bambini hanno generato oltre 4,25 milioni di dollari di entrate annuali. Alcuni creatori pubblicizzano apertamente i profitti derivanti da ciò che descrivono come contenuti AI senza trama e affascinanti. La coalizione di sostegno sostiene che gli aggiustamenti politici da soli si riveleranno insufficienti finché la piattaforma non eliminerà gli incentivi finanziari che guidano questa creazione di contenuti.
Franz ha offerto una dura valutazione della qualità dei contenuti sulla piattaforma. “Solo circa il 5% dei video su YouTube per bambini sotto gli 8 anni sono effettivamente di alta qualità. E tra quel 5% si discute se siano effettivamente di alta qualità”, ha detto. YouTube ha contestato questa caratterizzazione come contraria alla sua politica sugli standard.
Le richieste della coalizione si estendono attraverso molteplici cambiamenti strutturali. Chiedono un’etichettatura chiara di tutti i contenuti generati dall’intelligenza artificiale a livello di piattaforma, un divieto assoluto del materiale generato dall’intelligenza artificiale da YouTube Kids e il divieto dei contenuti generati dall’intelligenza artificiale destinati ai bambini sulla piattaforma principale di YouTube. Inoltre, vogliono che YouTube impedisca al suo algoritmo di consigliare contenuti AI agli utenti sotto i 18 anni, introduca un interruttore parentale per disabilitare i contenuti AI che sono disattivati per impostazione predefinita e interrompa tutti gli investimenti in contenuti generati dall’IA destinati ai bambini.
Questa richiesta finale mette direttamente in discussione l’investimento di YouTube in Animaj, uno studio di intrattenimento per bambini basato sull’intelligenza artificiale e sostenuto dall’AI Futures Fund di Google. Franz è stata inequivocabile nella sua critica: “YouTube sta essenzialmente investendo nel danneggiare i bambini attraverso l’acquisto di Animaj”.
Un portavoce di YouTube ha dichiarato a Fortune: “Forniamo anche ai genitori la possibilità di bloccare i canali. Su YouTube, diamo priorità alla trasparenza quando si tratta di contenuti IA, etichettando i contenuti dai nostri strumenti IA e richiedendo ai creatori di divulgare contenuti IA realistici. Stiamo costantemente evolvendo il nostro approccio per rimanere aggiornati man mano che l’ecosistema si evolve”.
Wynton Hall, direttore dei social media e autore di Breitbart News, lo spiega nel suo libro bestseller istantaneo Codice Rosso: La Sinistra, la Destra, la Cina e la corsa al controllo dell’IAche spetta ai genitori proteggere i propri figli, in particolare, dai pericoli dell’intelligenza artificiale adescamento e sessualizzazione.
Leggi di più su Fortuna qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni di libertà di parola e censura online.
