OpenAI ha rinviato il lancio della sua controversa funzionalità “modalità per adulti” a seguito dell’intensa resistenza da parte del suo stesso consiglio consultivo e delle preoccupazioni circa la mancata protezione tecnica dei minori.
IL Giornale di Wall Street rapporti che il CEO Sam Altman ha proposto per la prima volta la funzionalità l’anno scorso, sostenendo la necessità di “trattare gli utenti adulti come adulti” consentendo conversazioni di testo erotiche. Originariamente previsto per il primo trimestre di quest’anno, il lancio è stato posticipato di almeno un mese.
La proposta ha scatenato una forte opposizione da parte del consiglio consultivo selezionato da OpenAI su benessere e intelligenza artificiale. In una riunione di gennaio, i consiglieri hanno espresso all’unanimità la loro rabbia dopo aver appreso che la società intendeva procedere nonostante le loro riserve. Un membro del consiglio ha avvertito che OpenAI rischia di creare un “sexy suicide coach” – un riferimento ai casi in cui gli utenti di ChatGPT avevano già sviluppato intensi legami emotivi con il bot togliendosi la vita.
I problemi tecnici sono altrettanto gravi. Il sistema di previsione dell’età di OpenAI, progettato per impedire ai minori di accedere ai contenuti per adulti, classificava erroneamente i minori come adulti circa il 12% delle volte durante i test interni. Con circa 100 milioni di utenti sotto i 18 anni ogni settimana sulla piattaforma, questo tasso di errore potrebbe esporre milioni di bambini a materiale esplicito. L’azienda ha anche lottato per eliminare le restrizioni sui contenuti erotici, bloccando comunque gli scenari non consensuali e la pornografia infantile.
Documenti interni esaminati dal Diario ha identificato ulteriori rischi: uso compulsivo, dipendenza emotiva eccessiva dal chatbot, escalation verso contenuti sempre più estremi e spostamento delle relazioni nel mondo reale.
Un portavoce di OpenAI ha descritto la funzionalità pianificata come quella che consente “oscenità anziché pornografia” in forma di testo, con immagini erotiche, voce e video che rimangono off-limits al momento del lancio. Ha riconosciuto che gli algoritmi di previsione dell’età “non saranno mai del tutto infallibili”, ma ha affermato che hanno prestazioni paragonabili agli standard del settore.
Altman è stato pubblicamente in conflitto. Durante un podcast di agosto, quando gli è stato chiesto quali fossero le decisioni “migliori per il mondo, ma non migliori per vincere”, ha detto: “Non abbiamo ancora inserito un avatar di sex bot in ChatGPT”. Ha riconosciuto che l’erotismo avrebbe aumentato le entrate, ma ha affermato che era in conflitto con gli obiettivi a lungo termine dell’azienda. Due mesi dopo, ha annunciato su X che i contenuti per adulti sarebbero stati lanciati a dicembre, un post che ha colto di sorpresa lo staff, arrivando poche ore dopo che la società aveva presentato il suo comitato consultivo sul benessere. Il giorno dopo ha proseguito: “Non siamo la polizia morale eletta del mondo”.
Nel suo nuovo libro, Codice Rosso: La Sinistra, la Destra, la Cina e la corsa al controllo dell’IAIl direttore dei social media di Breitbart News, Wynton Hall, scrive ampiamente su come possiamo proteggere i nostri figli e nipoti
La “conclusione”, afferma Hall, è che “non c’è alcuna giustificazione perché un bambino interagisca con personaggi IA o piattaforme associate” – prima di ricordare ai lettori che i bambini negli Stati Uniti “trascorrono già troppo tempo fissando gli schermi”.
“L’uso regolare del controllo genitoriale, una forte privacy dei dati, impostazioni adeguate all’età e discussioni sulla sicurezza online sono essenziali per aiutare i bambini a superare i pericoli e a utilizzare la tecnologia in modo responsabile”, suggerisce l’autore.
Leggi di più su IL Giornale di Wall Street Qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni di libertà di parola e censura online.
