Un nuovo rapporto dell’organismo di vigilanza sulla sicurezza dei bambini Common Sense Media ha concluso che la ricerca basata sull’intelligenza artificiale di Google rappresenta un rischio inaccettabile per i giovani utenti, spingendo le scuole a interrompere l’uso dei prodotti Google fino a quando le funzionalità di intelligenza artificiale non potranno essere disabilitate.
Il buon senso dei media ha ha rilasciato un rapporto lanciando allarmi sull’integrazione dell’intelligenza artificiale da parte di Google nella sua piattaforma di ricerca, sostenendo che la tecnologia presenta “rischi inaccettabili” per gli studenti e dovrebbe essere completamente rimossa dalle aule.
Il rapporto spiega che le funzionalità di ricerca basate sull’intelligenza artificiale di Google, tra cui la modalità AI e le panoramiche AI, espongono gli studenti a tecnologie di intelligenza artificiale generativa potenzialmente dannose senza adeguate garanzie. Il direttore senior dei programmi di intelligenza artificiale dell’organizzazione, Robbie Torney, ha sottolineato la posizione dominante di Google sia nel mercato della ricerca che in quello dell’istruzione, sottolineando che l’adozione diffusa da parte dell’azienda di Chromebook e Google Workspace for Education significa che milioni di studenti dalla scuola materna fino ai livelli post-laurea utilizzano quotidianamente i prodotti Google.
La preoccupazione principale è incentrata sulla modalità AI per la ricerca di Google, lanciata con disponibilità immediata per tutti gli utenti, compresi gli account didattici. Secondo gli esperti, questo differisce in modo significativo dagli altri prodotti Google AI, dove i modelli Gemini sono soggetti a limiti di età. Amanda Bickerstaff, vicedirettore di AI for Education, ha descritto la modalità AI come una backdoor che consente agli studenti di accedere a esperienze di IA generativa non sicure.
“Non c’è motivo per cui un bambino di 10, 13 o anche 15 anni dovrebbe vedere una panoramica dell’intelligenza artificiale o avere la modalità AI”, ha affermato Bickerstaff. “Quando si insegna l’alfabetizzazione all’intelligenza artificiale, il primo passo è essere intenzionali. Queste modalità sono l’opposto. Non vai su un motore di ricerca per ottenere una risposta da un chatbot, vai a cercare cose reali.”
I ricercatori hanno documentato numerosi problemi con gli strumenti di ricerca basati sull’intelligenza artificiale di Google. Gli studi dimostrano che le panoramiche AI lo sono incline a ripetere la disinformazioneun problema che persiste nonostante sia stato identificato nelle prime fasi del lancio del prodotto. Il design di queste funzionalità suggerisce un’aria di autorità che può confondere gli utenti, in particolare i bambini che potrebbero non riconoscere che stanno interagendo con contenuti generati dall’intelligenza artificiale anziché con informazioni verificate.
I test di Common Sense Media hanno rivelato che gli strumenti di intelligenza artificiale di Google completano facilmente i compiti a casa per gli utenti minori. Gli esperti avvertono che questa combinazione di design fuorviante e la natura gradevole dei chatbot può portare gli studenti a imbrogliare inconsapevolmente o, come minimo, impedire un vero apprendimento. Bickerstaff ha definito l’integrazione dell’intelligenza artificiale come inappropriata dal punto di vista dello sviluppo, complicando gli sforzi degli educatori per sviluppare competenze di alfabetizzazione negli studenti.
La sfida per le scuole è aggravata dall’incapacità di Google di fornire opzioni per disabilitare le funzionalità dell’intelligenza artificiale mantenendo l’accesso alla Ricerca. I genitori possono disabilitare completamente la ricerca o bloccare Google.com per gli account figlio che gestiscono e gli amministratori scolastici potrebbero teoricamente fare lo stesso per gli account Workspace for Education. Tuttavia, ciò eliminerebbe di fatto l’accesso a Ricerca Google per tutti gli utenti, creando quella che Bickerstaff ha descritto come una scelta impossibile per gli insegnanti.
In risposta al rapporto di Common Sense Media, Google ha affermato che gli stress test dell’organizzazione erano ristretti e ambigui, definendoli una misura inefficace della sicurezza e dell’utilità del prodotto. Sebbene Common Sense Media non abbia testato specificamente gli account Workspace for Education, ma solo gli account consumer, secondo Torney Google ha confermato che l’esperienza di ricerca basata sull’intelligenza artificiale rimane coerente per tutti i tipi di utenti.
David Monahan, direttore della campagna per l’organizzazione no-profit per la sicurezza dei bambini Fairplay for Kids, ha rilasciato una forte dichiarazione sui risultati. “La panoramica sull’intelligenza artificiale di Google e la modalità AI stanno minando l’istruzione dei bambini, fornendo loro una pericolosa disinformazione e mettendo a rischio le loro stesse vite”, ha affermato Monahan. “Se Google non è nemmeno disposta a disabilitare le funzionalità di intelligenza artificiale per gli studenti, le scuole dovrebbero smettere del tutto di utilizzare i prodotti Google”.
Anya Meksin, vicedirettrice di Schools Beyond Screens, una coalizione nazionale che sostiene i limiti all’uso della tecnologia in classe, ha suggerito che il rapporto potrebbe servire da campanello d’allarme per i distretti scolastici. La sua organizzazione ha recentemente contribuito a implementare nuove politiche tecnologiche nelle scuole del distretto scolastico unificato di Los Angeles, compresi i divieti di tempo davanti allo schermo per le classi della scuola materna e di prima elementare.
“Siamo scioccati dal modo in cui le Big Tech hanno colonizzato l’istruzione pubblica con i loro prodotti”, ha affermato Meksin. “Dobbiamo trattare questa situazione come un’emergenza. L’istruzione è il fondamento della nostra democrazia e stanno consapevolmente impedendo ai nostri figli di poter combattere contro queste aziende in futuro.”
Meksin ha sottolineato che i distretti scolastici spesso si ritrovano a violare immediatamente le proprie politiche sull’intelligenza artificiale a causa della tecnologia incorporata. Ad esempio, la politica di LAUSD vieta agli studenti sotto i 13 anni di utilizzare l’intelligenza artificiale generativa a scuola, ma gli studenti possono comunque interagire con la modalità AI tramite Chromebook e Ricerca Google sui computer scolastici.
Le implicazioni legali per i distretti scolastici potrebbero essere significative. La società madre di Google, Alphabet, ha recentemente affrontato la sua prima causa per omicidio colposo dopo che un utente è morto per suicidio in seguito a conversazioni con Gemini, e YouTube è stato ritenuto colpevole di progettazione negligente della piattaforma che causa danni alla salute mentale degli utenti minorenni. Meksin ha avvertito che i distretti scolastici potrebbero trovarsi ad affrontare responsabilità simili se esponessero i bambini a prodotti noti per causare danni.
L’impatto dell’intelligenza artificiale sull’istruzione è un argomento importante nel bestseller istantaneo Codice Rosso: La Sinistra, la Destra, la Cina e la corsa al controllo dell’IAscritto dal direttore dei social media di Breitbart News Wynton Hall all’inizio di quest’anno.
In Codice Rosso, Hall spiega il pericolo che i pregiudizi di sinistra vengano introdotti in classe tramite l’intelligenza artificiale:
Hall indica Khanmigo della Khan Academy come esempio di come i pregiudizi operano anche in un’intelligenza artificiale educativa ben progettata. Nel suo libro Brave New Words, Salman Khan ha descritto come Khanmigo ha gestito il Secondo Emendamento utilizzando il metodo socratico, “sfidando lo studente in un modo produttivo, che mostrasse molti meno pregiudizi rispetto alla classe media e incoraggiasse effettivamente lo studente a pensare!” Ma Khan ha poi mostrato con orgoglio lo stesso scetticismo sull’intelligenza artificiale nei confronti del riscaldamento globale, lodandola per aver “smantellato con successo qualsiasi informazione falsa sostenendo al contempo argomentazioni supportate dalla scienza” e persino generando programmi di lezioni che “suggerivano azioni che i miei studenti potrebbero intraprendere per combattere il riscaldamento globale”. Il punto di Hall è chiaro: chi decide cosa conta come “falsa informazione” determina quale visione del mondo viene applicata dall’intelligenza artificiale.
Non si ferma ai programmi delle lezioni. Hall avverte che la piattaforma Schoolhouse.world di Khan ha iniziato a collaborare con università d’élite come Columbia, MIT e Johns Hopkins, utilizzando portfolio di “dialoghi” in cui gli studenti delle scuole superiori “dibattono argomenti come l’immigrazione o Israele-Palestina, e si valutano a vicenda su tratti come l’empatia, la curiosità o la gentilezza”, come dice il New York Times riportato. Hall scrive: “Questo tipo di proxy per un ‘punteggio di credito sociale’, che può potenzialmente essere utilizzato per determinare le ammissioni all’università sulla base di segnali di virtù di giustizia sociale, sottolinea la posta in gioco mentre i pionieri dell’istruzione dell’IA lavorano per rimodellare il modo in cui viene insegnato ai nostri figli”.
L’allineamento politico dei partenariati dovrebbe preoccupare ogni genitore conservatore. Nel 2025, OpenAI fatto squadra con l’American Federation of Teachers (AFT) per lavorare “con 400.000 insegnanti per dare forma al futuro dell’intelligenza artificiale nelle scuole”. L’AFT, nota Hall CODICE ROSSOè “un massiccio donatore del Partito Democratico, che eroga milioni di dollari ai democratici e praticamente nulla ai repubblicani”.
Leggi di più su Media di buon senso qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni relative all’intelligenza artificiale, alla libertà di parola e alla censura online
