Il nuovo libro di Wynton Hall Codice Rosso: La Sinistra, la Destra e la Corsa al Controllo dell’IA include uno sguardo che fa riflettere sul pericolo in rapida evoluzione delle armi autonome, che sembrano cambiare la guerra nel ventunesimo secolo tanto profondamente quanto le armi nucleari hanno fatto nel ventesimo – e sarà molto più difficile tenere imbottigliato il genio dell’intelligenza artificiale che frenare la proliferazione delle bombe nucleari.
Il problema è che, a differenza dell’arricchimento dell’uranio e della progettazione di missili balistici intercontinentali, l’intelligenza artificiale è economica e sempre più onnipresente. I componenti fisici delle armi autonome non sono eccessivamente costosi o difficili da produrre. Note di Hall CODICE ROSSO che il primo esempio confermato di armi autonome che danno la caccia e l’uccisione di obiettivi umani, senza controllo umano diretto, si è verificato apparentemente nel 2020 in Libia, utilizzando attrezzature prodotte da un’azienda di difesa turca. La guerra basata sull’intelligenza artificiale non è un gioco esclusivo a cui solo le superpotenze mondiali possono permettersi di giocare.
“La democratizzazione delle armi letali basate sull’intelligenza artificiale significa che la tecnologia che una volta era dominio esclusivo delle superpotenze sarà sempre più disponibile per una serie di attori, sia statali che non statali”, osserva Hall.
Naturalmente, le grandi potenze utilizzeranno armi più devastanti per puntare a una posta in gioco più alta. L’uso dell’intelligenza artificiale da parte di Israele per portare avanti la guerra di Gaza è stato un esempio sorprendente di come l’apprendimento automatico possa elaborare l’intelligence e bloccare gli obiettivi molto più velocemente degli operatori umani. Secondo i funzionari delle Forze di Difesa Israeliane (IDF), i tre sistemi di intelligenza artificiale utilizzati per rintracciare i terroristi di Hamas erano decine di volte più veloci degli estremamente efficienti analisti di intelligence umana israeliani.
Collegare sistemi di elaborazione dati così potenti ad armi autonome avvicina l’umanità sull’orlo dell’iperguerra, un conflitto totale tra nazioni potenti che fanno entrambe affidamento sull’intelligenza artificiale. COME CODICE ROSSO sottolinea, le armi autonome hanno un vantaggio in termini di velocità che si rivelerà schiacciante sui velocissimi campi di battaglia di domani. Nessun esercito può permettersi di lasciare che i suoi nemici monopolizzino l’uso di sistemi in grado di individuare ed eliminare i bersagli più velocemente, non più di quanto un pistolero dei vecchi tempi verserebbe colla nella fondina prima di una sparatoria.
“Nella realtà del combattimento “uccidi o sarai ucciso”, un ritardo di un nanosecondo potrebbe mandare un soldato americano a casa in una bara avvolta in una bandiera invece che vivo”, osserva Hall. “Sebbene sia saggio mantenere una capacità di intervento umano, è altrettanto importante lasciare che le armi IA funzionino autonomamente se un nemico sta facendo lo stesso.”
Questa logica ineludibile ci porta inesorabilmente più vicini al giorno in cui le armi autonome combatteranno tra loro, e nessuna delle due parti potrà permettersi di rallentare la propria corsa lasciando che gli esseri umani esercitino il controllo sui propri droni. Mettere le dita umane sul grilletto sarebbe un suicidio. Lasciare gli esseri umani fuori dal giro della guerra è terrificante.
Un’altra sfida che gli Stati Uniti devono affrontare è che i nostri avversari non affrontano nulla di paragonabile al panico morale o agli ostacoli attivisti che affrontiamo noi. CODICE ROSSO racconta di come i lavoratori dell’industria tecnologica statunitense si siano ribellati ai contratti militari e abbiano chiesto garanzie che il loro codice non sarà mai venduto al Pentagono, anche quando la loro intransigenza mette a rischio la vita dei militari americani.
“Potete essere certi che il Partito Comunista Cinese (PCC) non deve affrontare una tale resistenza alla sua fusione civile-militare. E il settore tecnologico russo non si oppone a Vladimir Putin sulla sua agenda di modernizzazione militare”, sottolinea seccamente Hall.
CODICE ROSSO offre un po’ di ottimismo sul fatto che questo stato di cose sta cambiando, poiché anche i capitani della Silicon Valley più inclini a sinistra, donatori di Kamala Harris, si rendono conto che aiutare i regimi autoritari brutali a ottenere un vantaggio qualitativo nell’intelligenza artificiale militarizzata rispetto all’ultimo bastione della vera libertà sulla Terra sarebbe una scommessa pericolosa.
Il capitolo sulle armi IA si apre con una citazione secondo cui “chiunque diventi il leader in questo ambito diventerà il sovrano del mondo”. L’autore di quella citazione è stato il presidente russo Vladimir Putin. Sembra che Big Tech stia sentendo i lontani allarmi premonitori.
La conclusione è che l’intelligenza artificiale è uno strumento come gli altri: fa funzionare più economico E Più veloce. L’intelligenza artificiale sta cercando di rendere le cose più economiche e veloci di qualsiasi altro strumento umano – forse Tutto precedenti strumenti umani messi insieme.
Hall ci ricorda che le prime “armi autonome” furono le mine terrestri sviluppate durante la guerra civile americana. I principi di base delle nuove armi autonome non sono così diversi, tranne che le mine terrestri non seguono le loro vittime a casa hackerando i loro profili sui social media, o prendendo decisioni nell’ordine dei nanosecondi su chi uccidere e chi risparmiare.
Applicare tale potere alla sfera del conflitto armato e della guerra dell’informazione significa che i malvagi attori non statali avranno presto accesso agli stessi droni assassini, armi informatiche, macchine di propaganda e strumenti di reclutamento dei superpoteri. La forza dei Titani sarà a disposizione dei peggiori miscredenti a prezzi di svendita. CODICE ROSSO ci avverte che non si può risparmiare un momento per garantire che l’America abbia un vantaggio insormontabile nella nuova corsa agli armamenti.
