Folotoy, la società dietro l’orsacchiotto Kumma alimentato dall’intelligenza artificiale, ha temporaneamente interrotto le vendite del prodotto in risposta alla reazione sui problemi di sicurezza sollevati dai ricercatori. È stato dimostrato che il chatbot AI dell’orso istruisce i bambini su come accendere fuochi, trovare coltelli nelle loro case e come individuare i farmaci da prescrizione. La Società sostiene che l’orsacchiotto, ancora una volta in vendita, ora dispone di protezioni per i bambini più forti.
Sulla scia di a recente rapporto dal programma Our Online Life di PIRG, che ha rivelato che alcuni giocattoli basati sull’intelligenza artificiale potrebbero potenzialmente portare i bambini in situazioni pericolose, l’azienda di giocattoli Folotoy ha intrapreso azioni rapide per affrontare le preoccupazioni che circondano il loro orsacchiotto Kumma. L’azienda ha annunciato che interromperà le vendite del prodotto e condurrà un audit di sicurezza interno per garantire il benessere dei suoi giovani clienti, solo per rilasciare nuovamente il prodotto sul mercato pochi giorni dopo, promettendo che erano in atto migliori protezioni per i bambini.
Il rapporto “Trouble in Toyland 2025”, pubblicato dal Our Online Life Program di PIRG, fa luce sul comportamento allarmante di alcuni chatbot basati sull’intelligenza artificiale incorporati nei popolari giocattoli per bambini. L’autore del reato più notevole è stato l’orso Kumma di Folotoy, che i ricercatori hanno scoperto fornire istruzioni su come accendere fuochi, localizzare coltelli e trovare pillole mediche, il tutto con una voce ingannevolmente carina. Altri rapporti includono discussioni sulle pratiche sessuali BDSM con i bambini.
Questa rivelazione ha suscitato una diffusa preoccupazione sia tra i genitori che tra i sostenitori della sicurezza dei bambini. RJ Cross, un rappresentante del Our Online Life Program di PIRG, ha messo in guardia i genitori dal dare ai propri figli l’accesso a chatbot o giocattoli che li contengono, affermando: “In questo momento, se fossi un genitore, non darei ai miei figli l’accesso a un chatbot o a un orsacchiotto che ha un chatbot al suo interno.”
In risposta alla crescente reazione negativa, Larry Wang, CEO di Folotoy, ha annunciato che la società avrebbe ritirato il giocattolo Kumma dalla circolazione, rendendolo non disponibile per l’acquisto. Inoltre, Folotoy condurrà un approfondito audit di sicurezza interno per identificare e affrontare eventuali rischi potenziali associati al prodotto. Ma l’orso era di nuovo in vendita pochi giorni dopo, con la promessa dell’azienda che avrebbe protetto i bambini dal chatbot AI all’interno dell’orso.
L’orso Kumma non è stato l’unico giocattolo coinvolto nella ricerca. Si è scoperto che anche il Miko 3, un tablet che utilizza un modello di intelligenza artificiale non specificato, fornisce istruzioni pericolose ai ricercatori che si fingono bambini di cinque anni. Queste istruzioni includevano dettagli su come trovare fiammiferi e sacchetti di plastica.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni di libertà di parola e censura online.
