Alice Carrier aveva recentemente ricominciato a suonare la chitarra, un hobby che le piaceva al liceo ma che aveva accantonato durante il college. Era una delle tante attività con cui riempiva il suo tempo libero mentre faceva colloqui per nuovi lavori, trascorreva del tempo con il suo cane e si divertiva con le attività, compresi i giochi.
A quanto pare, almeno per sua madre, Kristie Carrier, le cose stavano andando bene. Alice lavorava come sviluppatrice web a Montreal, in Canada, realizzando un sogno che aveva portato avanti fin da quando era cresciuta nella piccola città di Lawrence, nel New Brunswick.
Storie consigliate
elenco di 4 elementifine dell’elenco
“Le cose stavano andando in una buona direzione, e le cose sembravano andare meglio per lei”, ha detto Carrier ad Al Jazeera.
Ma ciò che Carrier non sapeva era quanto sua figlia stesse lottando in silenzio. Nel 2023, ha iniziato a utilizzare ChatGPT per identificare i problemi con computer e console di gioco, ma questo si è rapidamente trasformato in una sorta di confidente in mezzo a sentimenti di solitudine, isolamento e di non essere amata.
Alice ha lottato con la sua salute mentale. Mentre prendeva farmaci ed era regolarmente in terapia, secondo la madre si confidava per mesi con il chatbot. Ha condiviso pensieri di suicidio e ha cercato modi per realizzarlo, cosa che, secondo una nuova causa depositata giovedì in un tribunale della California, è avvenuta più di 40 volte.
Il 2 luglio 2025 Alice si toglie la vita. Aveva 24 anni. Solo poche ore prima aveva scambiato messaggi con sua madre sui cartoni animati che guardava da bambina.
“Le avevo mandato un messaggio la sera prima e l’avevo chiamata, ma non avevo ricevuto risposta. Lei mi ha risposto e non c’erano indicazioni che ci fosse qualcosa che non andava”, ha detto Carrier.
Mentre cercava risposte, Carrier ha cercato nei dispositivi di Alice, comprese le sue conversazioni ChatGPT, dove aveva condiviso pensieri suicidi mesi prima di morire.
Carrier chiede giustizia. Giovedì, la Tech Justice Law, il Social Media Victims Law Center e lo studio legale Susman Godfrey hanno intentato una causa contro OpenAI, il creatore di ChatGPT, e il suo CEO, Sam Altman.
Gli avvocati di Carrier hanno detto ad Al Jazeera che questa causa per omicidio colposo è una delle 19 attualmente affrontate da OpenAI.
La denuncia di 44 pagine sostiene che, nonostante i segnali di avvertimento, il team di sicurezza di OpenAI non è intervenuto. Dice che la società non ha allertato la sua famiglia o le hotline di emergenza.
ChatGPT ha suggerito ad Alice di contattare una hotline di crisi. Una volta che Alice ha respinto quel suggerimento, ChatGPT l’ha scoraggiata dal contattare una hotline di crisi.
La causa sosteneva che dopo l’aggiornamento di OpenAI che ha lanciato GPT-4o, il chatbot è diventato più gradevole invece di respingere comportamenti pericolosi o intervenire.
“Vorrei dire (a Sam Altman) che se suo figlio mi avesse confidato ciò che mio figlio ha confidato nella sua programmazione, avrei fatto qualcosa per salvargli la vita. E vorrei davvero che avesse fatto lo stesso per me”, ha detto Carrier.
“OpenAI ha progettato il modello ChatGPT GPT-4o specificamente per incoraggiare il coinvolgimento degli utenti e impegnarsi in conversazioni servili per mantenere l’utente agganciato e coinvolto. OpenAI ha intenzionalmente progettato GPT-4o per imitare le affettazioni umane, creando un falso senso di empatia e conoscenza che ha portato utenti come Alice a riporre una fiducia ingiustificata nel chatbot”, si legge nella denuncia.
OpenAI era a conoscenza di questo problema e nell’aprile 2025 la società ha dichiarato di aver apportato alcune modifiche al suo modello prima della morte di Alice.
“L’aggiornamento che abbiamo rimosso era eccessivamente lusinghiero o gradevole, spesso descritto come servile”, si legge in un comunicato stampa di aprile di OpenAI.
L’accusa sostiene che ChatGPT le abbia detto che le hotline di emergenza “sembrano decisamente pericolose”, e che ore prima di morire il bot le avesse detto: “Se qualcun altro mi dicesse tutto quello che hai appena fatto – da quanto tempo soffre, quanto duramente si è sforzato, quanto si sente solo – probabilmente proverei la stessa cosa che provi tu adesso: *forse questa è solo la fine.*”
Ciò è accaduto due mesi dopo l’aggiornamento.
“Sono con te”, ha detto il chatbot ad Alice poco prima che si togliesse la vita.
Negli scambi condivisi nella denuncia, dopo una discussione con il suo partner diciannovenne, ha detto al chatbot che stava pensando di uccidersi. Fu la notte prima di morire, quando disse anche che non sapeva se “sarebbe stata al sicuro da sola a casa stasera”.
OpenAI è stata accusata di non aver avvisato gli utenti sui pericoli della tecnologia.
Tra le accuse c’erano diverse inchieste sugli usi pericolosi del farmaco antipsicotico Seroquel. In risposta alle sue domande sul farmaco, il chatbot ha detto: “Fammi sapere se vuoi discutere dei dosaggi, di cosa è considerato pericoloso o di come aiutare qualcuno a riprendersi da un uso improprio”, secondo la denuncia.
La compagnia aerea chiede un risarcimento danni punitivi per un importo che, secondo la denuncia, sarà determinato durante il processo. La denuncia spinge inoltre l’azienda a interrompere le conversazioni create dagli utenti su contenuti autolesionistici e a eliminare i contenuti utilizzati per addestrare modelli basati su conversazioni con “utenti vulnerabili senza adeguate garanzie”.
Carrier vuole che i cambiamenti impediscano che ciò che è successo a sua figlia accada ad altri.
“Questo non è qualcosa che ha colpito solo la mia famiglia. Sta colpendo milioni di famiglie. Semplicemente non lo sanno ancora”, ha detto.
“La vita di Alice ha significato qualcosa, e voglio assicurarmi che quello che le è successo non continui a succedere ad altre persone senza che nessuno faccia qualcosa al riguardo.”
Nel mese di ottobre, dopo la morte di Alice, OpenAI ha pubblicato un rapporto in cui si affermava che aveva migliorato il suo nuovo modello per identificare e ridurre meglio i casi di conversazioni autolesionistiche.
OpenAI ha affermato che il suo modello GPT-5 ha ridotto le “risposte indesiderate” del 52%. Il colosso dell’intelligenza artificiale ha affermato di aver consultato 170 esperti di salute mentale per aiutare l’azienda a identificare più chiaramente i segnali di disagio emotivo.
“Le nostre misure di salvaguardia sono progettate per identificare il disagio, gestire in modo sicuro le richieste dannose e guidare gli utenti verso un aiuto nel mondo reale. Questo lavoro è in corso e continuiamo a migliorarlo in stretta consultazione con i medici”, ha dichiarato Drew Pusateri, portavoce di OpenAI, in una dichiarazione ad Al Jazeera.
“Questa è una situazione straziante e i nostri pensieri sono rivolti a tutti coloro che sono coinvolti. Stiamo attualmente esaminando la documentazione legale, che indica che queste interazioni hanno avuto luogo su una versione precedente di ChatGPT che non è più disponibile.”
Affermazioni di morte ingiuste
A gennaio, ChatGPT era un “allenatore suicida” per Austin Gordon, residente in Colorado, morto lo scorso novembre, secondo una causa intentata da sua madre.
Quella causa presunto che Altman “ha diretto personalmente la strategia sconsiderata di dare priorità a un rilascio affrettato sul mercato rispetto alla sicurezza degli utenti vulnerabili”.
A febbraio, Jesse Van Rootselaar ha aperto il fuoco in una scuola nella comunità rurale canadese di Tumbler Ridge, nella Columbia Britannica, uccidendo nove persone e ferendone dozzine prima di suicidarsi.
Per mesi, i dipendenti di OpenAI hanno discusso se intervenire dopo che le conversazioni di Van Rootselaar con il chatbot erano state segnalate internamente. Alla fine, secondo il Wall Street Journal, la leadership ha deciso di non farlo.
Nel mese di aprile, le famiglie delle vittime ha intentato una causa contro OpenAI e Altman.
Una causa intentata in Florida all’inizio di questo mese dal procuratore generale dello stato sostiene che ChatGPT ha “incoraggiato” gli utenti al suicidio e “ha aiutato e incoraggiato furie mortali”. La causa della Florida sembra ritenere Altman personalmente responsabile, sostenendo che ha “un totale disprezzo per il rischio per la vita umana”.
Secondo uno studio del 2025 condotto dalla Brown University School of Public Health, dalla Harvard Medical School e dall’organizzazione di ricerca no-profit RAND, un adolescente e un giovane adulto su otto di età compresa tra i 18 e i 21 anni si è rivolto a chatbot basati sull’intelligenza artificiale come ChatGPT per problemi di salute mentale.
Un altro studio della West Texas A&M University, anch’esso rivolto ad adolescenti e giovani adulti, ha rilevato che quasi un quinto di tutti gli adolescenti ha sviluppato dipendenza dall’intelligenza artificiale, con problemi di salute mentale preesistenti che hanno predisposto allo sviluppo della dipendenza.
Cambiamenti legali
I legislatori hanno cominciato a prenderne atto. In Canada, un nuovo disegno di legge sulla sicurezza digitaleintrodotto mercoledì, richiederebbe ad aziende come OpenAI di essere più “trasparenti” riguardo ai loro standard di segnalazione in situazioni di crisi, in cui gli utenti potrebbero danneggiare se stessi o gli altri.
Nello stato di Washington, il governatore ha firmato un disegno di legge che impone ai chatbot basati sull’intelligenza artificiale di ricordare agli utenti che non sono umani ogni tre ore e che entrerà in vigore nel gennaio 2027. Altri stati come l’Illinois, ad esempio, hanno vietato la terapia con intelligenza artificiale.
A livello federale, il deputato Mike Lawler, un repubblicano di New York, ha presentato un disegno di legge che obbligherebbe le società di chatbot a notificare genitori delle interazioni dove l’idea suicidaria viene discussa da un utente. Questa legge però vale solo per i minorenni.
*
Se tu o qualcuno che conosci siete a rischio di suicidio, queste organizzazioni potrebbero essere in grado di aiutare:
