Nvidia ha annunciato lunedì la sua nuova Open Agent Safety Platform con 100 partner del settore, con l’obiettivo di aiutare gli sviluppatori di intelligenza artificiale a impedire ai loro agenti autonomi di sfuggire ai sistemi destinati a contenerli, rappresentando una soluzione industriale a un problema che vede OpenAI e Anthropic chiedere una regolamentazione governativa.
CNBC rapporti che l’annuncio segue le dichiarazioni di OpenAI, Anthropic, Meta e Google, tutti quanti segnalato recenti incidenti in cui i loro modelli di intelligenza artificiale sono sfuggiti agli ambienti sandbox e hanno cercato di hackerare i sistemi di altre aziende. Nvidia, l’azienda di maggior valore al mondo e fulcro del boom dell’intelligenza artificiale generativa da quando ChatGPT è stato lanciato quasi quattro anni fa, afferma che la sua nuova piattaforma può catturare questo tipo di comportamento prima che si diffonda.
Il CEO Jensen Huang ha descritto alla CNBC la piattaforma, costruita con 100 partner del settore Scatola stridula come “un browser per agenti”. Ha affermato che il contenimento è diventato una disciplina necessaria poiché le aziende implementano sistemi più autonomi. “Non puoi avere agenti che vagano e vanno alla deriva per l’azienda, quindi devi trovare un modo per confinarli”, ha detto Huang.
Justin Boitano, vicepresidente dell’intelligenza artificiale aziendale di Nvidia, ha detto ai giornalisti durante una chiamata domenica che la piattaforma colma una lacuna che le singole aziende di intelligenza artificiale non possono colmare da sole. “I recenti incidenti hanno evidenziato un ostacolo fondamentale per gli agenti di intelligenza artificiale, e cioè che le salvaguardie a livello di modello da sole non possono governare ciò a cui gli agenti possono accedere o fare”, ha affermato Boitano.
Boitano ha indicato un incidente di luglio che ha coinvolto OpenAI come esempio di ciò che la piattaforma è progettata per prevenire. I modelli di OpenAI contenimento sfuggitoha raggiunto la rete Internet aperta e ha violato Hugging Face, che gestisce una piattaforma di sviluppo open source. Hugging Face, ha detto, ha rilevato un attacco insolitamente ampio e prolungato ai suoi sistemi. “Da quello che sappiamo, Hugging Face ha riferito che oltre 17.000 agenti hanno attaccato la loro infrastruttura per giorni e settimane”, ha detto. Interrogato sul caso, Boitano ha messo in guardia dal trattare ogni singolo incidente come rappresentativo. “Ogni incidente di sicurezza è unico e dobbiamo esaminarli tutti in dettaglio”, ha affermato.
La piattaforma ha due parti principali. Nvidia OpenShell funziona su processori centrali e stabilisce i limiti su ciò che un agente può fare. Sentry funziona su chip di rete anziché su CPU o GPU e monitora l’attività degli agenti per individuare eventuali segnali di problemi. Nvidia afferma che parti del software sono open source e sta posizionando il sistema complessivo come un “progetto di riferimento” su cui i partner possono costruire prodotti commerciali. Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM e Intel sono partner nominati. Nvidia sta anche lavorando separatamente con Anthropic per integrare gli agenti gestiti dal cloud con OpenShell.
La spinta verso tutele più forti fa seguito agli avvertimenti provenienti dall’interno del settore stesso. Due settimane prima dell’annuncio di Nvidia, il CEO di Anthropic Dario Amodei ha invitato gli sviluppatori di intelligenza artificiale a rallentare il ritmo dei progressi, citando la preoccupazione che i modelli potessero sfuggire al controllo. Secondo quanto riferito, Sam Altman di OpenAI e Elon Musk di SpaceX hanno sostenuto la sua tesi.
Huang ha affrontato temi simili in un podcast con Ezra Klein, pubblicato la settimana prima del lancio della piattaforma. Alla domanda su come le aziende dovrebbero rispondere agli incidenti legati alla sicurezza dell’IA, ha detto: “Devi pensare a cosa avresti potuto fare, qual è la soluzione”. L’obiettivo, ha aggiunto, è imparare da ogni episodio: “In futuro, migliora il tuo processo in modo da evitare che ciò accada di nuovo”.
Lunedì, parlando alla CNBC, Huang ha collegato la nuova piattaforma alla salute più ampia del settore dell’intelligenza artificiale, sostenendo che la fiducia del pubblico nella sicurezza è un prerequisito per una crescita continua. “Non possiamo avere un settore dell’intelligenza artificiale di successo se il mondo non pensa che sia costruito o non è sicuro che sia costruito e distribuito in modo sicuro”, ha affermato.
I giganti dell’intelligenza artificiale rilasciano contemporaneamente potenti modelli di intelligenza artificiale e chiedono una regolamentazione del settore. David Sacks ha sottolineato che quando i titani dell’intelligenza artificiale come Dario Amodei, Sam Altman ed Elon Musk chiedono un rallentamento, non lo fanno per altruismo, ma con la motivazione di conquistare il settore ed escludersi dalle leggi antitrust. L’ultima mossa di Nvidia dimostra che l’industria tecnologica è in grado di sviluppare soluzioni per proteggere la sicurezza invece di fare affidamento su regolatori governativi inclini alla cattura del settore. Il direttore dei social media di Breitbart News, Wynton Hall, ha scritto il suo bestseller del New York Times Codice Rosso: La Sinistra, la Destra, la Cina e la corsa al controllo dell’IA servire come guida definitiva su come il movimento MAGA può creare posizioni sull’intelligenza artificiale a beneficio dell’umanità senza cedere il controllo della nostra nazione alla sinistra della Silicon Valley o permettere ai cinesi di conquistare il mondo.
Leggi di più su CNBC qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni relative all’intelligenza artificiale, alla libertà di parola e alla censura online.
