La crescente prevalenza di app di “nudificazione” basate sull’intelligenza artificiale e della tecnologia deepfake ha portato a una tendenza inquietante da parte degli studenti a creare e condividere immagini sessualmente esplicite dei loro compagni di classe, con il 75% di queste immagini destinate a bambini sotto i 14 anni e anche di 11 anni, secondo un nuovo sondaggio tra insegnanti nel Regno Unito.
IL Custode rapporti che negli ultimi anni il rapido progresso dell’intelligenza artificiale ha dato origine a una nuova forma di abuso digitale: pornografia deepfake. Questa tendenza allarmante si è ora fatta strada nelle scuole, con un numero crescente di studenti che utilizzano app di “nudificazione” per creare immagini sessualmente esplicite dei loro compagni di classe, insegnanti e persino di se stessi. Le conseguenze di questo comportamento sono di vasta portata e causano un notevole disagio emotivo e traumi alle vittime.
Un recente sondaggio condotto da Teacher Tapp per conto di Custode ha rivelato che un insegnante di scuola secondaria su dieci in Inghilterra è a conoscenza del fatto che gli studenti abbiano creato “video deepfake e sessualmente espliciti” nell’ultimo anno accademico. Incredibilmente, tre quarti di questi incidenti hanno coinvolto bambini di età pari o inferiore a 14 anni, con alcuni casi che hanno coinvolto studenti di 11 anni. La facilità di accesso a questi strumenti basati sull’intelligenza artificiale ha reso semplice per i bambini impegnarsi in questo comportamento dannoso.
L’impatto sulle vittime può essere devastante. Le ragazze e le giovani donne prese di mira dalla pornografia deepfake spesso si sentono violate, umiliate e tradite. Le amicizie scolastiche vengono distrutte e le vittime possono avere difficoltà ad affrontare i loro coetanei in classe. In alcuni casi, il costo emotivo è così grave che gli studenti hanno vomitato dopo aver scoperto le immagini sessualmente esplicite di se stessi che circolavano tra i loro compagni di classe.
Anche se la maggior parte della pornografia deepfake prende di mira donne e ragazze, i ragazzi non sono immuni da questa forma di abuso. L’organizzazione benefica Everyone’s Invited (EI) ha segnalato casi di ragazzi presi di mira, con immagini sessuali generate dall’intelligenza artificiale di loro create e condivise nella scuola, causando notevoli disagi e traumi.
Anche gli insegnanti stanno diventando sempre più bersagli della pornografia deepfake. Con poca formazione su come gestire queste situazioni, gli educatori stanno facendo del loro meglio per supportare ed educare gli studenti. Tuttavia, la mancanza di una guida chiara e l’incoerenza nell’affrontare questi casi hanno lasciato molti insegnanti sopraffatti e incerti riguardo alla migliore linea d’azione.
Le scuole negli Stati Uniti sono alle prese con lo stesso problema da tempo. Nel 2024, Breitbart Notizie riportato che diversi studenti di una scuola media a Beverly Hills, in California, sono stati espulsi per aver diffuso porno deepfake di compagni di classe:
Il caso inquietante è venuto alla luce a febbraio, quando immagini esplicite raffiguranti i volti di 16 studenti di terza media, di età compresa tra 13 e 14 anni, sovrapposti a corpi nudi generati artificialmente, sono state condivise tramite app di messaggistica. Il sesso delle vittime non è stato rivelato, ma l’incidente ha scosso la comunità e sollevato serie preoccupazioni sull’uso improprio delle tecnologie emergenti.
Questo tipo di immagine generata dall’intelligenza artificiale, nota come “deepfake”, può essere molto convincente per l’osservatore inesperto. Breitbart News ha precedentemente riferito che le app generare porno deepfake sono esplosi in popolarità.
Secondo il sovrintendente Michael Bregy, i cinque studenti espulsi sono stati considerati i “più gravemente coinvolti” nella creazione e diffusione delle immagini esplicite. Pur rimanendo confidenziali, gli accordi di espulsione delineano i termini e la durata dell’espulsione degli studenti, nonché le condizioni per il loro eventuale ritorno a scuola.
Leggi di più su IL Custode Qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni di libertà di parola e censura online.
