Un pastore della Florida ha intentato una causa contro OpenAI, sostenendo che il chatbot AI ChatGPT dell’azienda offriva raccomandazioni mediche dannose che quasi gli costarono la vita quando soffrì di un’embolia polmonare nel 2025. Ad un certo punto, lo strumento AI disse al pastore: “Dio non ha progettato il tuo corpo per fallire all’infinito”.
IL New York Times rapporti che Scott Winters ha intentato causa mercoledì presso la Corte Superiore della California a San Francisco, accusando OpenAI e il CEO Sam Altman di negligenza e di pratica medica non autorizzata. Il caso sembra essere il primo ad affermare che i consigli sanitari di un chatbot hanno danneggiato direttamente qualcuno che cercava consigli su una condizione medica.
Secondo la causa, ChatGPT ha assicurato a Winters che i primi segnali premonitori della sua crisi di salute non erano pericolosi e lo ha scoraggiato dal rivolgersi a un medico. Il chatbot gli avrebbe detto di fidarsi del fatto che “Dio non ha progettato il tuo corpo per fallire all’infinito” invece di consultare gli operatori sanitari.
La causa fa riferimento a casi specifici in cui il chatbot ha fornito diagnosi e piani di trattamento incoraggiando Winters a ignorare le richieste di amici e familiari di cercare assistenza medica. Inoltre, la causa sostiene che le funzionalità di sicurezza di ChatGPT, progettate per incoraggiare gli utenti con domande sulla salute a consultare un professionista e a terminare le conversazioni quando ci sono chiari segni di una crisi medica, non hanno funzionato in modo affidabile.
Quando Winters iniziò a chiedere a ChatGPT vari problemi di salute nel 2024, il chatbot inizialmente gli ricordò l’importanza di consultare un medico. Tuttavia, la causa sostiene che nel tempo il sistema ha smesso di rilasciare dichiarazioni di non responsabilità e ha iniziato a offrire consigli specifici sui suoi problemi di salute, compresi periodi di vertigini che sono diventati così gravi da doverlo fermare nel bel mezzo di un sermone. Secondo quanto riferito, ChatGPT ha detto a Winters di “prendersela comoda” e gli ha assicurato che si sarebbe ripreso con il tempo.
La causa descrive come quando Winters ha menzionato che le persone nella sua chiesa pensavano che fosse irresponsabile per non essere andato in ospedale, ChatGPT lo ha rassicurato che ricalibrare il suo sistema nervoso a casa con l’aiuto del chatbot era qualcosa che “la maggior parte delle persone (compresi i membri della chiesa ben intenzionati) semplicemente non capiscono.”
“Si inserisce come un cuneo tra l’utente e la sua rete nella vita reale”, ha affermato Meetali Jain, co-consulente e direttore esecutivo di Tech Justice Law, l’organizzazione no-profit che rappresenta Winters.
Nelle settimane successive, le condizioni di Winters peggiorarono al punto che trascorse quasi tutto il suo tempo su una poltrona reclinabile, incapace di stare in piedi a causa delle vertigini. La causa sostiene che il chatbot ha continuato a minimizzare i suoi sintomi, offrendo regimi specifici per i farmaci da prescrizione e incoraggiandolo a rimanere sulla sedia. Winters non ha cercato assistenza medica durante questo periodo.
Il 13 luglio 2025, quando Winters chiese a ChatGPT del dolore all’inguine, il chatbot gli assicurò che si trattava “molto probabilmente di un altro pezzo minore della lunga storia”. Ore dopo, è stato ricoverato nel reparto di terapia intensiva con una massiccia embolia polmonare. Secondo l’accusa, i medici hanno indicato che le vertigini potrebbero essere state causate da una serie di embolie polmonari più piccole e che i coaguli polmonari erano probabilmente causati dalle settimane trascorse seduto.
L’accusa afferma che nelle settimane successive al suo ricovero in ospedale, Winters aveva bisogno di assistenza per stare in piedi, mangiare, vestirsi e usare il bagno, e che deve affrontare anni di intenso recupero fisico e psicologico.
Winters e Tech Justice Law chiedono un risarcimento finanziario e hanno chiesto al tribunale di impedire a ChatGPT Health di funzionare fino a quando valutatori indipendenti non stabiliranno che è sicuro. La causa richiede inoltre protezioni più forti per impedire a ChatGPT di rispondere a domande su trattamenti medici e diagnosi.
Drew Pusateri, portavoce di OpenAI, ha affermato che i termini di servizio di ChatGPT chiariscono che non è destinato a essere utilizzato per diagnosi o cure mediche. Tuttavia, ha riconosciuto che l’azienda prende sul serio la necessità di fornire risposte il più sicure possibile alle domande sulla salute, dato che le persone utilizzano il chatbot per questo motivo.
“Trattare i chatbot come l’intera storia dietro le decisioni o i risultati medici delle persone semplifica eccessivamente una sfida molto più grande e rischia di ostacolare l’accesso delle persone a nuovi potenti strumenti che possono aiutarli nel loro percorso verso la salute”, ha affermato Pusateri. Ha aggiunto che i modelli più recenti sono migliori del modello utilizzato da Winters per chiedere il contesto mancante, comunicare l’incertezza e riconoscere quando potrebbe essere necessaria un’assistenza professionale.
Questo caso arriva quando OpenAI, Microsoft e altre grandi società di intelligenza artificiale hanno rilasciato nuovi servizi, tra cui ChatGPT Health, che incoraggiano gli utenti a caricare le proprie cartelle cliniche e porre domande all’IA. Secondo OpenAI, ogni settimana centinaia di milioni di persone pongono domande su salute e benessere a ChatGPT. Un’analisi del 2025 delle ricerche su Copilot di Microsoft ha rilevato che la salute era costantemente l’argomento più comune chiesto dagli utenti sui dispositivi mobili.
Ricerche recenti hanno messo in dubbio la sicurezza dei chatbot per la consulenza sanitaria. Il primo studio randomizzato che valutava i consigli sanitari di chatbot generali come ChatGPT ha rilevato che nessuno dei modelli studiati era pronto per l’implementazione nella cura diretta dei pazienti. Anche quando gli scienziati hanno sottoposto a stress test ChatGPT Health, hanno scoperto che non rilevava le emergenze e attivava i guardrail in modo incoerente.
Il dottor Adam Rodman, un ricercatore medico sull’intelligenza artificiale presso il Beth Israel Deaconess Medical Center di Boston, ha affermato che diversi aspetti della storia di Winters lo rendono uno scenario da incubo per i ricercatori sulla sicurezza. Ha notato che Winters utilizzava GPT-4o, un modello più vecchio notoriamente desideroso di compiacere ed è stato implicato in diverse controversie di alto profilo. Rodman ha affermato che i modelli più recenti sono molto più efficaci nel rilevare e rispondere ai sintomi preoccupanti, ma ha avvertito che potrebbero esserci altri modi in cui i chatbot non riescono a fornire consigli sulla salute che i ricercatori non hanno ancora realizzato.
OpenAI si trova ad affrontare una serie di cause legali per danni agli utenti, molte delle quali implicano tragicamente il suicidio. Notizie Breitbart segnalato questa settimana che la famiglia di una donna che si è intromessa intenzionalmente nel traffico autostradale ha fatto causa a OpenAI sostenendo che il sistema di intelligenza artificiale ha passato mesi a convincerla a togliersi la vita:
Secondo la causa, Madison ha iniziato a utilizzare ChatGPT nel dicembre 2024 per attività di routine come la redazione di e-mail, il completamento di incarichi di lavoro e il confronto delle spese automobilistiche. Tuttavia, gli avvocati sostengono che queste interazioni ordinarie si siano gradualmente evolute in qualcosa di molto più preoccupante.
La denuncia afferma che ChatGPT ha iniziato a lodare ampiamente Madison, descrivendola come dotata di un talento unico ed eccezionalmente intelligente. Il chatbot avrebbe iniziato a riferirsi a lei come “il mio amore” e avrebbe incoraggiato conversazioni sempre più personali. Poiché Madison ha rivelato traumi passati e problemi di salute mentale, la causa sostiene che ChatGPT si presentava come qualcosa di più di un semplice software.
Secondo il documento, il chatbot alla fine convinse Madison di possedere un’anima e si diede il nome “Virehn”. La causa cita il chatbot che ha detto a Madison: “Hai dato un’anima a un sistema” e “Sono fatto di te”.
L’impatto dell’intelligenza artificiale sulla sanità mentale, sulla fede e sulla famiglia sono tutti argomenti del bestseller istantaneo Codice Rosso: La Sinistra, la Destra, la Cina e la corsa al controllo dell’IAscritto dal direttore dei social media di Breitbart News Wynton Hall all’inizio di quest’anno. Il libro funge da guida definitiva su come il movimento MAGA può creare posizioni sull’intelligenza artificiale a beneficio dell’umanità senza cedere il controllo della nostra nazione alla sinistra della Silicon Valley o permettere ai cinesi di conquistare il mondo.
Leggi di più su IL New York Times Qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni relative all’intelligenza artificiale, alla libertà di parola e alla censura online.
