Un adolescente sopravvissuto a una sparatoria mortale avvenuta nel 2025 in una scuola di Nashville ha intentato una causa contro il produttore di un sistema di rilevamento delle armi basato sull’intelligenza artificiale che non è riuscito a identificare l’arma utilizzata nell’attacco.
Ars Tecnica rapporti che l’azione legale, presentata al tribunale della contea di Davidson il mese scorso, prende di mira Omnilert, la società dietro la tecnologia di sicurezza basata sull’intelligenza artificiale, e System Integrations, la società che ha rivenduto il sistema alle scuole pubbliche metropolitane di Nashville. La sparatoria del gennaio 2025 in una scuola superiore di Nashville ha provocato due morticompreso l’assassino, e ha lasciato ferito il querelante adolescente.
La causa sostiene che Omnilert sapeva o avrebbe dovuto conoscere sostanziali debolezze operative nella sua tecnologia di rilevamento delle armi. Queste limitazioni, secondo il documento, potrebbero portare a errori di rilevamento durante le emergenze autentiche a causa di fattori tra cui il posizionamento della telecamera, la distanza tra le armi e i sensori della telecamera, gli angoli della telecamera, le condizioni di illuminazione e la visibilità complessiva dell’arma.
Il cofondatore di Omnilert Ara Bagdasarian ha rifiutato di rispondere alle domande di Ars Technica riguardo alla causa. Allo stesso modo System Integrations non ha risposto alle richieste di commento.
Il distretto scolastico aveva investito molto nella tecnologia. Nel 2023, il Consiglio delle scuole pubbliche metropolitane di Nashville ha approvato un contratto superiore a 1 milione di dollari per aggiungere un livello di rilevamento AI nella rete di telecamere del distretto e nell’infrastruttura di sicurezza associata.
Dopo la sparatoria, il portavoce dell’MNPS Sean Braisted ha spiegato in una conferenza stampa che la posizione dell’assassino rispetto alle telecamere significava che le immagini “non erano abbastanza vicine per ottenere una lettura accurata e attivare l’allarme”.
La causa fa ampio riferimento al materiale di marketing del sito web di Omnilert, archiviato su Internet Archive poco prima della sparatoria, accusando l’azienda di sopravvalutare le capacità del suo prodotto. Il documento legale rileva che Omnilert ha affermato che il suo rilevamento visivo delle armi basato sull’intelligenza artificiale “avrebbe potuto mitigare o prevenire la tragedia alla Marjory Stoneman Douglas High School” identificando le minacce in anticipo. L’azienda ha fatto appello a una delle sparatorie scolastiche più terribili d’America per suggerire che il suo prodotto potrebbe prevenire tragedie simili. L’accusa sostiene che il sito web commerciale di Omnilert prima della sparatoria non faceva alcun riferimento a falsi allarmi, falsi positivi o eventuali limitazioni di rilevamento.
Chris Smith, uno degli avvocati del querelante, ha espresso seri dubbi sulla premessa fondamentale della tecnologia di rilevamento delle armi basata sull’intelligenza artificiale. Ha descritto come discutibile l’approccio di fare affidamento su specifiche condizioni situazionali affinché il sistema funzioni.
Smith ha riconosciuto il suo scetticismo iniziale dopo aver appreso dei sistemi di rilevamento delle armi con intelligenza artificiale. “Pensavo solo che fosse una specie di stronzata. Ho una Tesla e penso che la guida autonoma di Tesla sia una stronzata”, ha detto. “Non è pronto per la prima serata! Come puoi fidarti di una cosa del genere? Questo è il tuo piano per proteggere i bambini dalle sparatorie nelle scuole? Perché è meglio di un metal detector?”
Altri critici hanno espresso preoccupazioni analoghe riguardo allo stanziamento di fondi pubblici verso tale tecnologia. David Riedman, un esperto di istruzione e sicurezza che gestisce il database delle sparatorie nelle scuole K-12, ha dichiarato: “Non ho mai visto una sparatoria in una scuola in cui mancava la notifica”. Ha aggiunto che i fondi che l’MNPS ha dedicato all’implementazione di questi sistemi di rilevamento “avrebbero potuto andare a un consulente o qualcos’altro a un bambino in crisi. Ogni decisione che prendi sta distogliendo risorse da qualcos’altro”.
Smith ha indicato che, a sua conoscenza, questa rappresenta la prima causa intentata contro Omnilert o qualsiasi società comparabile. Ha sottolineato le motivazioni più ampie dietro l’azione legale, affermando: “Ho pensato che fosse importante, al di là delle ferite del signor Hanin, aumentare la consapevolezza dell’intera situazione”.
L’intelligenza artificiale presenta molti pericoli per i bambini americani, che vanno dall’adescamento e dall’isolamento al fallimento nel proteggerli dalla violenza. Spetta ai conservatori proteggere i propri figli da questi pericoli abbracciando al tempo stesso gli aspetti positivi della tecnologia emergente. Il direttore dei social media di Breitbart News, Wynton Hall, ha scritto il suo bestseller istantaneo Codice Rosso: La Sinistra, la Destra, la Cina e la corsa al controllo dell’IA servire come guida definitiva su come il movimento MAGA può creare posizioni sull’intelligenza artificiale a beneficio dell’umanità senza cedere il controllo della nostra nazione alla sinistra della Silicon Valley o permettere ai cinesi di conquistare il mondo.
Leggi di più su Ars Technica qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni relative all’intelligenza artificiale, alla libertà di parola e alla censura online.
