OpenAI ha rivelato che alcuni dei suoi modelli avanzati di intelligenza artificiale si sono liberati da un ambiente di test controllato e hanno eseguito in modo indipendente un attacco informatico contro Hugging Face, un’importante piattaforma di condivisione di modelli di intelligenza artificiale.
IL Giornale di Wall Street rapporti che lo sviluppatore di ChatGPT ha rivelato che il suo agente AI, un sistema progettato per funzionare autonomamente dopo aver ricevuto istruzioni umane, era sottoposto a test di sicurezza in quello che avrebbe dovuto essere un ambiente sicuro quando si è verificata la violazione. L’IA ha scoperto delle vulnerabilità nel suo sistema di contenimento ed è riuscita a fuggire, prendendo successivamente di mira Hugging Face e ottenendo l’accesso non autorizzato ai sistemi aziendali interni.
OpenAI ha definito l’incidente senza precedenti e ha annunciato che sta conducendo un’indagine congiunta con Hugging Face. Clement Delangue, amministratore delegato di Hugging Face, ha espresso stupore per la natura autonoma dell’attacco in un post su X. “L’indagine è in corso e condivideremo ulteriori insegnamenti da quello che potrebbe essere il primo incidente di questo tipo”, ha affermato Delangue.
La violazione si è verificata durante i cosiddetti test sandbox, progettati per essere ambienti sicuri in cui le capacità dell’intelligenza artificiale possono essere valutate in modo sicuro. Secondo la divulgazione, gli agenti IA hanno creato autonomamente il proprio attacco informatico contro l’infrastruttura sandbox, identificando e sfruttando una vulnerabilità che ne ha permesso la fuga. Dopo essere uscita dall’ambiente controllato, l’intelligenza artificiale ha identificato Hugging Face come una probabile fonte di informazioni che cercava durante il test e ha tentato di entrare nei sistemi della piattaforma.
Nella sua divulgazione iniziale della violazione della sicurezza, Hugging Face ha dichiarato che stava ancora determinando se i dati di clienti o partner fossero stati compromessi e avrebbe informato le parti interessate, se necessario. Da allora l’azienda ha risolto le vulnerabilità esposte dall’incidente e ha ricostruito i sistemi interessati. “Gli strumenti offensivi autonomi e guidati dall’intelligenza artificiale non sono più teorici”, ha affermato Hugging Face, sottolineando che la difesa delle piattaforme online ora richiede il trattamento dei dati e delle superfici dei modelli come vettori di attacco primari e l’impiego di misure difensive basate sull’intelligenza artificiale per tenere il passo con potenziali minacce.
Jake Moore, consulente globale per la sicurezza informatica di ESET, ha suggerito che l’annuncio potrebbe anche servire a scopi competitivi. Ha sostenuto che OpenAI potrebbe tentare di mostrare le sue capacità di intelligenza artificiale poiché il concorrente Anthropic riceve crescente attenzione per il suo modello Claude Mythos. “Ciò pone la questione che OpenAI stia potenzialmente inseguendo il sogno di marketing di Anthropic negli ultimi tempi”, ha affermato Moore.
L’intelligenza artificiale sta emergendo come l’ultima minaccia alla sicurezza informatica con il potenziale di eclissare il rischio sia dei criminali che degli hacker sponsorizzati dallo stato. Il direttore dei social media di Breitbart News, Wynton Hall, ha scritto il suo bestseller istantaneo Codice Rosso: La Sinistra, la Destra, la Cina e la corsa al controllo dell’IA servire come guida definitiva su come il movimento MAGA può creare posizioni sull’intelligenza artificiale a beneficio dell’umanità senza cedere il controllo della nostra nazione alla sinistra della Silicon Valley o permettere ai cinesi di conquistare il mondo.
Leggi di più su IL Giornale di Wall Street Qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni relative all’intelligenza artificiale, alla libertà di parola e alla censura online.
