Le telecamere del corpo di polizia dotate di intelligenza artificiale sono state addestrate per rilevare i volti di circa 7.000 persone su una lista di controllo “ad alto rischio” nella città canadese di Edmonton, un test dal vivo per verificare se la tecnologia di riconoscimento facciale evitata perché troppo invadente potrebbe avere un posto nella polizia di tutto il Nord America.
Ma sei anni dopo che il principale produttore di body camera Axon Enterprise, Inc. ha affermato che l’uso della tecnologia di riconoscimento facciale da parte della polizia pone serie preoccupazioni etiche, il progetto pilota – avviato la scorsa settimana – sta sollevando allarmi ben oltre Edmonton, la città più settentrionale del continente con oltre 1 milione di abitanti.
Un ex presidente del comitato etico sull’intelligenza artificiale di Axon, che ha portato l’azienda ad abbandonare temporaneamente il riconoscimento facciale nel 2019, ha dichiarato all’Associated Press di essere preoccupato che la società con sede in Arizona stia andando avanti senza un sufficiente dibattito pubblico, test e controlli da parte di esperti sui rischi sociali e sulle implicazioni sulla privacy.
“È essenziale non utilizzare queste tecnologie, che comportano costi e rischi molto reali, a meno che non vi sia qualche chiara indicazione dei benefici”, ha affermato l’ex presidente del consiglio, Barry Friedman, ora professore di diritto alla New York University.
Il fondatore e amministratore delegato di Axon, Rick Smith, sostiene che il progetto pilota di Edmonton non è il lancio di un prodotto ma una “ricerca sul campo in fase iniziale” che valuterà le prestazioni della tecnologia e rivelerà le garanzie necessarie per utilizzarla in modo responsabile.
“Effettuando test in condizioni reali al di fuori degli Stati Uniti, possiamo raccogliere approfondimenti indipendenti, rafforzare i quadri di supervisione e applicare tali insegnamenti a valutazioni future, anche all’interno degli Stati Uniti”, ha scritto Smith in un post sul blog.
Il progetto pilota ha lo scopo di contribuire a rendere più sicuri gli agenti di pattuglia di Edmonton consentendo alle loro telecamere indossate di rilevare chiunque sia stato classificato dalle autorità come avente una “bandiera o avvertenza” per categorie come “violento o aggressivo; armato e pericoloso; armi; rischio di fuga; e delinquente ad alto rischio”, ha affermato Kurt Martin, sovrintendente ad interim del servizio di polizia di Edmonton. Finora, nella lista di controllo figurano 6.341 persone, ha detto Martin in una conferenza stampa del 2 dicembre. Una lista di controllo separata aggiunge 724 persone che hanno almeno un mandato penale serio, ha detto.
“Vogliamo davvero assicurarci che venga preso di mira in modo che si tratti di persone con reati gravi”, ha affermato Ann-Li Cooke, direttore responsabile dell’IA di Axon.
Se il progetto pilota si espandesse, potrebbe avere un effetto importante sulla polizia di tutto il mondo. Axon, una società quotata in borsa nota soprattutto per lo sviluppo del Taser, è il principale fornitore statunitense di body camera e le ha sempre più proposte alle agenzie di polizia in Canada e altrove. L’anno scorso Axon ha battuto il suo concorrente più vicino, Motorola Solutions con sede a Chicago, nel tentativo di vendere telecamere per il corpo alla Royal Canadian Mounted Police.
Motorola ha affermato in un comunicato di avere anche la capacità di integrare la tecnologia di riconoscimento facciale nelle telecamere del corpo di polizia ma, sulla base dei suoi principi etici, si è “intenzionalmente astenuto dall’utilizzare questa funzionalità per l’identificazione proattiva”. Non è escluso un suo utilizzo in futuro.
Il governo dell’Alberta nel 2023 ha imposto l’uso di telecamere per il corpo a tutte le agenzie di polizia della provincia, inclusa la capitale Edmonton, descrivendola come una misura di trasparenza per documentare le interazioni della polizia, raccogliere prove migliori e ridurre i tempi per la risoluzione di indagini e denunce.
Anche se molte comunità negli Stati Uniti hanno accolto con favore le body camera come strumento di responsabilità, la prospettiva del riconoscimento facciale in tempo reale che identifichi le persone nei luoghi pubblici è stata impopolare in tutto lo spettro politico. La reazione dei difensori delle libertà civili e un dibattito più ampio sull’ingiustizia razziale hanno contribuito a spingere le aziende Axon e Big Tech a sospendere le vendite di software di riconoscimento facciale alla polizia.
Tra le maggiori preoccupazioni c’erano gli studi che dimostravano che la tecnologia era difettosa, dimostrando risultati distorti in base alla razza, al sesso e all’età. Inoltre, nei feed video in tempo reale non corrispondeva ai volti con la stessa precisione di quanto accadeva con i volti in posa per carte d’identità o foto segnaletiche della polizia.
Diversi stati americani e dozzine di città hanno cercato di limitare l’uso del riconoscimento facciale da parte della polizia, anche se l’amministrazione del presidente Donald Trump sta ora cercando di bloccare o scoraggiare gli stati dal regolamentare l’intelligenza artificiale.
L’Unione Europea ha vietato la tecnologia di scansione facciale pubblica in tempo reale in tutti i 27 paesi del blocco, tranne quando utilizzata per crimini gravi come rapimenti o terrorismo.
Ma nel Regno Unito, che non fa più parte dell’UE, le autorità hanno iniziato a testare la tecnologia nelle strade di Londra dieci anni fa e l’hanno utilizzata per effettuare 1.300 arresti negli ultimi due anni. Il governo sta valutando la possibilità di espanderne l’uso in tutto il paese.
Molti dettagli sul pilota di Edmonton non sono stati resi pubblici. Axon non crea un proprio modello di intelligenza artificiale per il riconoscimento dei volti, ma ha rifiutato di dire quale fornitore di terze parti utilizza.
La polizia di Edmonton afferma che il progetto pilota continuerà fino alla fine di dicembre e solo durante le ore diurne.
“Ovviamente fa buio abbastanza presto qui”, ha detto Martin. “Le condizioni di illuminazione, le nostre temperature fredde durante l’inverno, tutte queste cose influenzeranno ciò che vedremo in termini di una prova di concetto di successo.”
Martin ha detto che circa 50 agenti che pilotano la tecnologia non sapranno se il software di riconoscimento facciale ha trovato una corrispondenza. I risultati verranno analizzati successivamente in stazione. In futuro, tuttavia, potrebbe aiutare la polizia a rilevare se c’è una persona potenzialmente pericolosa nelle vicinanze in modo da poter chiedere assistenza, ha detto Martin.
Ciò dovrebbe accadere solo se gli agenti hanno avviato un’indagine o stanno rispondendo a una chiamata, non semplicemente mentre passeggiano in mezzo alla folla. Martin ha affermato che gli agenti che rispondono a una chiamata possono commutare le loro telecamere dalla modalità di registrazione passiva a quella attiva con immagini ad alta risoluzione.
“Vogliamo davvero rispettare i diritti degli individui e i loro interessi in materia di privacy”, ha affermato Martin.
L’ufficio del commissario per le informazioni e la privacy dell’Alberta, Diane McLeod, ha dichiarato di aver ricevuto una valutazione dell’impatto sulla privacy dalla polizia di Edmonton il 2 dicembre, lo stesso giorno in cui Axon e funzionari di polizia hanno annunciato il programma. Venerdì l’ufficio ha detto che sta ora lavorando per rivedere la valutazione, un requisito per i progetti che raccolgono dati personali “ad alta sensibilità”.
Temitope Oriola, professore di criminologia dell’Università di Alberta, ha affermato di non essere sorpreso che la città stia sperimentando il riconoscimento facciale dal vivo, dato che la tecnologia è già onnipresente nella sicurezza aeroportuale e in altri ambienti.
“Edmonton è un laboratorio per questo strumento”, ha detto Oriola. “Potrebbe rivelarsi un miglioramento, ma non lo sappiamo per certo.”
Oriola ha affermato che il servizio di polizia ha avuto un rapporto a volte “gelido” con i suoi residenti indigeni e neri, in particolare dopo la sparatoria mortale da parte della polizia di un membro della comunità sud sudanese lo scorso anno, e resta da vedere se la tecnologia di riconoscimento facciale renderà la polizia più sicura o migliorerà le interazioni con il pubblico.
Axon ha dovuto affrontare contraccolpi per le sue implementazioni tecnologiche in passato, come nel 2022, quando Friedman e altri sette membri del comitato etico sull’intelligenza artificiale di Axon si sono dimessi per protestare contro le preoccupazioni su un drone dotato di Taser.
Negli anni trascorsi da quando Axon ha deciso di rinunciare al riconoscimento facciale, Smith, l’amministratore delegato, afferma che l’azienda ha “continuato la ricerca controllata e in laboratorio” di una tecnologia che è “diventata significativamente più accurata” ed è ora pronta per la sperimentazione nel mondo reale.
Ma Axon ha riconosciuto in una dichiarazione all’AP che tutti i sistemi di riconoscimento facciale sono influenzati da “fattori come la distanza, l’illuminazione e l’angolazione, che possono avere un impatto sproporzionato sulla precisione per gli individui dalla pelle più scura”.
Ogni partita richiede una revisione umana, ha affermato Axon, e parte dei test consiste anche nell'”apprendere quale formazione e supervisione devono avere i revisori umani per mitigare i rischi noti”.
Friedman ha detto che Axon dovrebbe rivelare tali valutazioni. Vorrebbe vedere più prove del fatto che il riconoscimento facciale è migliorato da quando il suo consiglio ha concluso che non era abbastanza affidabile da giustificare eticamente il suo utilizzo nelle telecamere della polizia.
Friedman ha detto di essere preoccupato anche per le agenzie di polizia che danno il via libera all’uso della tecnologia senza la deliberazione dei legislatori locali e senza rigorosi test scientifici.
“Non è una decisione che deve essere presa semplicemente dalle agenzie di polizia e certamente non dai venditori”, ha detto. “Un progetto pilota è una grande idea. Ma dovrebbe esserci trasparenza, responsabilità…. Niente di tutto ciò è qui. Stanno semplicemente andando avanti. Hanno trovato un’agenzia disposta ad andare avanti e stanno andando avanti.”
