Un sistema di monitoraggio dei farmaci basato sull’intelligenza artificiale non è riuscito a rilevare mesi di furto di fentanil da parte di un’infermiera nel più grande ospedale del Tennessee, a Chattanooga, secondo i registri del comitato infermieristico statale che sollevano interrogativi sull’efficacia dei sistemi di intelligenza artificiale utilizzati in centinaia di ospedali americani.
Notizie della CBS rapporti che all’ospedale Erlanger Baroness di Chattanooga, il personale di anestesia ha notato circa un anno fa che un’infermiera mostrava segni di disabilità in servizio nel centro chirurgico, tra cui linguaggio confuso e difficoltà a rimanere sveglio, secondo un ordine di consenso del Tennessee Board of Nursing. L’infermiera non ha superato il test antidroga ed è stata licenziata. In seguito ha ammesso di aver rubato il fentanil residuo dagli interventi chirurgici per uso personale per un periodo di mesi, a volte quotidianamente.
Si ritiene che la diversione dei farmaci, ovvero l’assunzione illegale di sostanze controllate da strutture sanitarie, avvenga in quasi tutti gli ospedali statunitensi. Ma questo caso si distingue: Erlanger aveva implementato Sentri7, un software di monitoraggio dei farmaci basato sull’intelligenza artificiale progettato per rilevare i farmaci mancanti più velocemente della supervisione umana. Per mesi, il sistema non è riuscito a lanciare allarmi sui farmaci mancanti e su altre irregolarità che avrebbero dovuto far scattare gli allarmi, secondo l’ordine del consiglio infermieristico.
Il caso offre uno sguardo raro sull’apparente fallimento del software di diversione dei farmaci basato sull’intelligenza artificiale, ora utilizzato in centinaia di ospedali con trasparenza o supervisione normativa minima. Le strutture non sono tenute a rivelare l’utilizzo di tale software o a segnalare malfunzionamenti, senza lasciare alcuna traccia completa dell’ampiezza dell’implementazione dei programmi o della frequenza con cui falliscono.
David Rastall, neurologo e ricercatore di intelligenza artificiale della Johns Hopkins Medicine, ha affermato che la natura proprietaria della tecnologia di intelligenza artificiale, combinata con gli amministratori ospedalieri che spesso non comprendono come funziona, consente di nascondere gli errori anziché correggerli. “L’ideale per i pazienti, gli operatori sanitari e i sistemi ospedalieri sarebbe che, quando si scopre che un’intelligenza artificiale commette qualche tipo di errore, questo diventi molto trasparente e pubblico”.
Sebbene la DEA richieda agli ospedali di denunciare in modo confidenziale i farmaci smarriti o rubati, e gli ospedali possano anche denunciare i furti alle agenzie sanitarie statali, secondo tre esperti di prevenzione della diversione della droga, questi rapporti non devono necessariamente includere dettagli sul coinvolgimento del software di intelligenza artificiale. Tutti e tre hanno affermato di non aver mai visto un fallimento dell’intelligenza artificiale documentato pubblicamente come il caso Erlanger.
Jacob Smith, farmacista responsabile della sicurezza dei farmaci presso la Johns Hopkins Medicine, ha espresso sorpresa. “Non ho mai visto queste tecnologie essere definite in quel modo specifico”, ha detto Smith. “Non ha senso per me come tu possa perdertelo.”
Gli esperti hanno notato che il caso suscita particolare preoccupazione perché il furto dei residui di droga è uno dei metodi di diversione più comuni, e il fentanil, che può essere cinquanta volte più potente dell’eroina, è tra le sostanze prese di mira più frequentemente.
Il portavoce di Erlanger Charlie Milburn ha dichiarato all’inizio di quest’anno che l’ospedale aveva preparato una dichiarazione scritta su Sentri7 ma ha rifiutato di rilasciarla. “Il nostro team legale sta discutendo se è qualcosa di cui vogliamo parlare”, ha detto Milburn in una e-mail di marzo.
La diversione è una sfida diffusa che può lasciare i pazienti senza farmaci prescritti o esporli a malattie trasmissibili per via ematica. Secondo le stime dell’organizzazione no-profit Healthcare Diversion Network, circa il 15% degli operatori sanitari rinuncia ai farmaci almeno una volta. Secondo il CDC, la diversione è stata collegata ad almeno tredici epidemie che hanno causato più di duecento infezioni, principalmente epatite C, dal 1985.
Leggi di più su Notizie CBS qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni relative all’intelligenza artificiale, alla libertà di parola e alla censura online.
