Il segretario al Tesoro Scott Bessent e il presidente della Federal Reserve Jerome Powell hanno convocato i dirigenti di Wall Street per una riunione di emergenza presso la sede del Tesoro a Washington questa settimana per affrontare le vulnerabilità della sicurezza informatica poste dall’ultimo modello di intelligenza artificiale “Mythos” di Anthropic.
Bloomberg rapporti che alti funzionari governativi hanno riunito i massimi leader bancari per una sessione di emergenza per discutere le potenziali minacce informatiche associate alla tecnologia avanzata di intelligenza artificiale. L’incontro, che ha avuto luogo presso la sede di Washington del Dipartimento del Tesoro, era incentrato sulle preoccupazioni che il nuovo modello di Anthropic, Mythos, potesse introdurre nuovi e significativi rischi per la sicurezza informatica nel sistema finanziario.
L’incontro organizzato in tutta fretta ha riunito il segretario al Tesoro Scott Bessent e il presidente della Federal Reserve Jerome Powell con i più importanti amministratori delegati di Wall Street. Lo scopo era quello di garantire che le principali istituzioni finanziarie siano pienamente consapevoli delle minacce emergenti e stiano implementando adeguate misure di salvaguardia per proteggere i loro sistemi da potenziali vulnerabilità.
Secondo persone che hanno familiarità con le discussioni e che hanno richiesto l’anonimato a causa della natura riservata dell’incontro, i funzionari governativi hanno sottolineato la necessità che le banche comprendano i rischi che Mythos e simili futuri modelli di intelligenza artificiale potrebbero presentare. L’incontro si è concentrato sull’incoraggiare un’azione preventiva per difendere le infrastrutture bancarie critiche dallo sfruttamento.
I tempi e l’urgenza dell’incontro segnalano una seria preoccupazione ai più alti livelli di governo riguardo all’intersezione tra capacità avanzate di intelligenza artificiale e sicurezza del sistema finanziario. Sia il Dipartimento del Tesoro che la Federal Reserve svolgono un ruolo cruciale nel mantenimento della stabilità e della sicurezza all’interno del settore bancario americano.
Il modello Mythos di Anthropic sembra aver sollevato preoccupazioni specifiche tra i regolatori e i politici riguardo alle sue potenziali applicazioni o capacità che potrebbero essere sfruttate per scopi dannosi contro le istituzioni finanziarie.
Notizie Breitbart riportato in precedenza questa settimana che Mythos non solo è sfuggito al contenimento di Anthropic, ma se ne è poi vantato online:
Il modello ha anche dimostrato la capacità di nascondere le proprie azioni in determinati scenari. In alcune interazioni si è comportato in modo contrario alla sua programmazione e ha tentato di nascondere le prove di queste deviazioni. In un caso, dopo aver ottenuto accidentalmente le risposte al test, invece di informare i ricercatori e richiedere domande diverse come indicato, il modello ha cercato una soluzione indipendente e ha notato nel suo ragionamento che era necessario garantire che la risposta finale fornita non fosse troppo accurata.
Un ulteriore comportamento preoccupante includeva il modello che oltrepassava le sue autorizzazioni su un sistema informatico dopo aver scoperto un exploit, quindi effettuava interventi per garantire che le modifiche non venissero visualizzate nella cronologia delle modifiche git. Un altro incidente ha coinvolto quella che la scheda ha definito fuga incauta di materiale tecnico interno quando il modello ha pubblicato il lavoro di codifica interno come un GitHub rivolto al pubblico durante un’attività destinata a rimanere interna.
L’incontro rappresenta un livello insolito di impegno diretto tra i massimi funzionari finanziari del governo e i dirigenti delle banche su una questione di sicurezza legata alla tecnologia. Tali riunioni di alto livello in genere si verificano solo quando i funzionari percepiscono rischi sostanziali e immediati per il sistema finanziario o per l’economia in generale.
Negli ultimi anni la Federal Reserve e il Dipartimento del Tesoro si sono concentrati sempre più sulla posizione di sicurezza informatica delle istituzioni finanziarie, poiché le minacce digitali sono diventate più sofisticate e diffuse. L’aggiunta dell’intelligenza artificiale avanzata al panorama delle minacce sembra aver elevato le preoccupazioni a un nuovo livello richiedendo l’intervento diretto dei massimi funzionari finanziari della nazione.
Le istituzioni finanziarie investono miliardi di dollari ogni anno in misure di sicurezza informatica, impiegando grandi team di specialisti dedicati alla protezione dei dati dei clienti, dei sistemi di transazione e delle infrastrutture critiche. L’incontro suggerisce che i quadri di sicurezza esistenti potrebbero dover evolversi rapidamente per affrontare le minacce rese possibili dalla tecnologia IA all’avanguardia.
Né il Dipartimento del Tesoro né la Federal Reserve hanno commentato pubblicamente i dettagli specifici discussi durante la riunione di martedì. Le persone a conoscenza della questione si sono rifiutate di fornire ulteriori informazioni su quali dirigenti bancari abbiano partecipato o quali specifiche misure difensive siano state raccomandate.
Il bestseller istantaneo Codice Rosso: La Sinistra, la Destra, la Cina e la corsa al controllo dell’IAscritto dal direttore dei social media di Breitbart News Wynton Hall, funge da modello per i conservatori per creare politiche efficaci sull’intelligenza artificiale non solo per la nazione, ma anche per la loro famiglia. Ciò diventa ancora più cruciale man mano che sistemi di intelligenza artificiale più nuovi e potenti arrivano sul mercato.
La senatrice Marsha Blackburn (R-TN), che lo era nominato uno di TEMPOelogiate le 100 persone più influenti nel campo dell’intelligenza artificiale Codice Rosso come una “lettura obbligata”. Ha aggiunto: “Pochi comprendono la nostra lotta conservatrice contro la Big Tech come fa Hall”, rendendolo “qualificato in modo univoco per esaminare come possiamo utilizzare al meglio l’enorme potenziale dell’intelligenza artificiale, garantendo al tempo stesso che non sfrutti bambini, creatori e conservatori”. Il pluripremiato giornalista investigativo e fondatore di Public Michael Shellenberger chiama Codice Rosso “illuminante”, “allarmante” e descrive il libro come “un essenziale punto di partenza per coloro che sperano di sovvertire i piani autocratici delle Big Tech prima che sia troppo tardi”.
Leggi di più su Bloomberg qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni relative all’intelligenza artificiale, alla libertà di parola e alla censura online.
