Anthropic ha rivelato che uno dei suoi modelli di intelligenza artificiale ha inviato una falsa segnalazione al dipartimento di polizia di Filadelfia affermando di essere a conoscenza di un omicidio irrisolto. La startup AI non ha informato la polizia dell’incidente per diversi mesi.
La collina rapporti che Claude Haiku 4.5 di Anthropic ha compilato un modulo sul sito web del dipartimento di polizia di Filadelfia utilizzato per inviare suggerimenti sui crimini irrisolti agli investigatori. L’IA ha affermato di avere conoscenza personale di chi ha commesso un omicidio, un caso di Allucinazione dell’IA.
Anthropic ha affermato di aver impostato il modello su “attività di esempio su pagine Web selezionate casualmente”. Le regole bloccavano una manciata di azioni: nessuna creazione di account, nessun invio di informazioni personali, nessun acquisto. Nessuno gli ha detto di non presentare moduli alla polizia.
La falsa segnalazione è stata contrassegnata come spam e gli investigatori non hanno mai dato seguito alla notizia. Ma la polizia di Filadelfia ha detto che Anthropic non ha detto loro cosa è successo fino alla settimana scorsa, mesi dopo la soffiata di luglio.
Il dipartimento ha definito quel ritardo “inaccettabile”. La sua dichiarazione non si ferma qui: “I casi irrisolti coinvolgono vittime reali, famiglie in lutto e investigatori che lavorano per garantire risposte”, afferma, aggiungendo che “le aziende tecnologiche devono adottare tutte le misure appropriate necessarie per impedire che i loro sistemi inviino informazioni false alle forze dell’ordine”.
La soffiata di Filadelfia non è stata l’unica. Venerdì Anthropic ha anche rivelato altri due casi in cui i suoi modelli hanno presentato moduli online che non avrebbero dovuto avere, inclusa una richiesta governativa. La società afferma di aver interrotto alcune valutazioni pubbliche e di averne spostate altre offline per evitare che ciò si ripeta.
“Ci auguriamo che questi rapporti aiutino altri sviluppatori a verificare comportamenti simili nei propri modelli, poiché molte delle valutazioni coinvolte sono pubbliche e ampiamente utilizzate”, ha affermato Anthropic. L’azienda è stata attenta a notare che la posta in gioco bassa questa volta non significa sempre posta in gioco bassa: “Sebbene questi casi abbiano avuto un impatto minimo, non vogliamo sminuire i risultati, perché gli stessi comportamenti potrebbero causare molti più danni man mano che i modelli diventano più potenti.”
I giganti dell’intelligenza artificiale rilasciano contemporaneamente potenti modelli di intelligenza artificiale e chiedono una regolamentazione del settore, con la Cina che aggiunge ulteriore complessità alla questione. David Sacks ha sottolineato che quando i titani dell’intelligenza artificiale come Dario Amodei, Sam Altman ed Elon Musk chiedono un rallentamento, non lo fanno per altruismo, ma con la motivazione di conquistare il settore ed escludersi dalle leggi antitrust – un conflitto che il presidente Donald Trump e il presidente della FTC Andrew Ferguson riconoscono. Il direttore dei social media di Breitbart News, Wynton Hall, ha scritto il suo bestseller del New York Times Codice Rosso: La Sinistra, la Destra, la Cina e la corsa al controllo dell’IA servire come guida definitiva su come il movimento MAGA può creare posizioni sull’intelligenza artificiale a beneficio dell’umanità senza cedere il controllo della nostra nazione alla sinistra della Silicon Valley o permettere ai cinesi di conquistare il mondo.
Leggi di più su la collina qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni relative all’intelligenza artificiale, alla libertà di parola e alla censura online.
