Demis Hassabis, co-fondatore e CEO di Google DeepMind, sta sostenendo che gli Stati Uniti creino un nuovo organismo di supervisione dell’intelligenza artificiale con l’autorità di valutare i modelli di intelligenza artificiale più sofisticati del mondo e potenzialmente coordinare i rallentamenti a livello di settore quando i rischi aumentano.
Axios rapporti che lo scienziato vincitore del Premio Nobel dietro Google Sistema AI Gemini ultra-svegliato ha delineato la sua proposta in un manifesto personale pubblicato questa settimana intitolato “Un quadro per l’intelligenza artificiale di frontiera e l’alba di una nuova era”. In un’intervista esclusiva con Axios, Hassabis ha sottolineato l’urgenza di implementare un approccio normativo più sistematico all’intelligenza artificiale, che sia finanziato dall’industria, composto da esperti tecnici di primo piano e responsabile nei confronti del governo degli Stati Uniti.
Parlando dal suo quartier generale di Londra, Hassabis ha definito gli attuali rischi per la sicurezza informatica guidati dall’intelligenza artificiale come segnali di allarme di maggiori pericoli futuri. Ha previsto che entro 18 mesi queste capacità, insieme a minacce biologiche e nucleari potenzialmente catastrofiche, potrebbero esistere all’interno di modelli di intelligenza artificiale open source che sarebbero impossibili da controllare per qualsiasi governo. Il CEO di DeepMind ha sottolineato che i rischi emergerebbero non solo dai modelli open source ma anche dai sistemi proprietari più potenti sviluppati dai principali laboratori di intelligenza artificiale.
“Ciò che facciamo collettivamente ora determinerà come si svolgerà la prossima fase della civiltà”, ha scritto Hassabis nel suo manifesto.
Hassabis ha trascorso gli ultimi mesi conducendo consultazioni private per creare sostegno alla sua proposta, incontrando funzionari dell’amministrazione Trump, leader di altri laboratori di intelligenza artificiale e rappresentanti dei governi europei prima di rendere pubblico il suo piano. Ha riferito di aver ricevuto risposte positive dall’amministrazione, che in precedenza aveva adottato una posizione di non intervento nei confronti della regolamentazione dell’intelligenza artificiale prima che il recente incidente di Mythos sollevasse campanelli d’allarme.
Il capo di DeepMind, che gode di un notevole rispetto tra le diverse fazioni all’interno della comunità dell’intelligenza artificiale, ha indicato che i leader di altri importanti laboratori di intelligenza artificiale hanno espresso accordo con la direzione generale della sua proposta. “È qui che l’industria deve andare”, ha detto Hassabis riferendosi al feedback che ha ricevuto. Il suo calendario di attuazione è ambizioso e punta a che il nuovo organismo di regolamentazione diventi operativo entro la fine dell’anno in corso.
La struttura di supervisione proposta si ispirerebbe alla Financial Industry Regulatory Authority (FINRA), che funge da organizzazione privata finanziata dall’industria che regola le società di Wall Street sotto la supervisione della SEC. Secondo il quadro di Hassabis, le aziende che sviluppano sistemi di intelligenza artificiale di frontiera presenterebbero inizialmente i loro modelli volontariamente al nuovo organismo fino a 30 giorni prima del rilascio pubblico per valutazioni di sicurezza complete che esaminino capacità pericolose nella sicurezza informatica, minacce biologiche e comportamenti ingannevoli.
Dopo che i protocolli di test avranno dimostrato la loro efficacia e affidabilità, Hassabis prevede di formalizzare il processo. Ciò trasformerebbe la presentazione volontaria in un requisito obbligatorio, il che significa che i modelli di intelligenza artificiale di frontiera dovrebbero superare valutazioni di sicurezza prima dell’implementazione nel mercato degli Stati Uniti. La struttura di governance proposta prevede un consiglio con una maggioranza indipendente composto da destinatari del Premio Turing e altri esperti altamente accreditati, integrato da rappresentanti dell’industria, del governo e della comunità open source.
Il quadro normativo si applicherebbe universalmente a tutti i modelli di IA di frontiera, indipendentemente dal paese di origine o dal fatto che operino come sistemi chiusi o aperti. I parametri di riferimento che definiscono lo status di classe di frontiera riceverebbero aggiornamenti regolari man mano che le capacità dell’intelligenza artificiale avanzano. Hassabis ha suggerito che la stessa designazione della frontiera sarebbe diventata un distintivo di prestigio, dicendo ad Axios: “Penso che sia un tipo di risorsa di prestigio piuttosto carina da avere”.
La proposta arriva sulla scia delle recenti decisioni dell’amministrazione Trump azioni di emergenza per quanto riguarda i modelli di intelligenza artificiale Mythos e Fable di Anthropic. Hassabis ha descritto questo episodio come “una sorta di campanello d’allarme”, dimostrando la necessità di Washington di meccanismi normativi più robusti rispetto a direttive improvvisate. Anthropic ha subito un brusco congelamento dei suoi modelli più potenti attraverso un ordine di controllo delle esportazioni e ha trascorso due settimane e mezzo a negoziare il loro rilascio senza alcun protocollo o linea guida prestabilita.
Per evitare un trattamento simile, OpenAI ha accettato proattivamente di limitare l’accesso al suo modello GPT-5.6 ai partner approvati dal governo al momento del lancio. Il modello è stato rilasciato al pubblico la settimana successiva al termine delle trattative e dei test con il Dipartimento del Commercio.
Il CEO di Anthropic, Dario Amodei, ha sostenuto separatamente una regolamentazione vincolante, proponendo un’agenzia in stile FAA con l’autorità di bloccare modelli di intelligenza artificiale non sicuri. I leader dei sistemi Gemini di Google e Claude di Anthropic ora condividono l’opinione che Washington dovrebbe regolamentare il loro lavoro, con il loro disaccordo primario incentrato su quale entità dovrebbe detenere l’autorità di regolamentazione.
Hassabis ritiene che l’intelligenza artificiale generale, definita come un sistema che possiede tutte le capacità cognitive del cervello umano, sia probabilmente solo a pochi anni di distanza. Descrive l’umanità come se si trovasse “ai piedi della singolarità”, scrivendo: “Abbiamo essenzialmente trovato un modo per far pensare la sabbia. È miracoloso”.
È fondamentale che i nostri leader controllino l’intelligenza artificiale in modo che l’intelligenza artificiale non controlli noi. Il direttore dei social media di Breitbart News, Wynton Hall, ha scritto il suo bestseller istantaneo Codice Rosso: La Sinistra, la Destra, la Cina e la corsa al controllo dell’IA servire come guida definitiva su come il movimento MAGA può creare posizioni sull’intelligenza artificiale a beneficio dell’umanità senza cedere il controllo della nostra nazione alla sinistra della Silicon Valley o permettere ai cinesi di conquistare il mondo.
Leggi di più su Axios qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni relative all’intelligenza artificiale, alla libertà di parola e alla censura online.
