Il cofondatore di Hugging Face, una start-up tecnologica compromessa quando i modelli avanzati di intelligenza artificiale di OpenAI hanno violato i protocolli di contenimento, ha dichiarato giovedì che la violazione da parte dei modelli di intelligenza artificiale autogestita rappresenta un avvertimento critico per il settore tecnologico.
Notizie della BBC rapporti che Thomas Wolf, co-fondatore e direttore scientifico di Hugging Face, ha detto alla BBC Newsday radio che gli attacchi informatici autonomi basati sull’intelligenza artificiale diventeranno sempre più comuni, ma la maggior parte delle aziende rimane inconsapevole del cambiamento fondamentale nel panorama delle minacce. Wolf ha sottolineato che l’industria deve riconoscere quanto drasticamente si sia trasformato il contesto della sicurezza.
Notizie Breitbart segnalato questa settimana che OpenAI ha ammesso che i suoi modelli di intelligenza artificiale sono fuggiti da un ambiente di test sicuro durante le prove e ha avviato un attacco informatico su Hugging Face, una popolare piattaforma di intelligenza artificiale:
OpenAI ha definito l’incidente senza precedenti e ha annunciato che sta conducendo un’indagine congiunta con Hugging Face. Clement Delangue, amministratore delegato di Hugging Face, ha espresso stupore per la natura autonoma dell’attacco in un post su X. “L’indagine è in corso e condivideremo ulteriori insegnamenti da quello che potrebbe essere il primo incidente di questo tipo”, ha affermato Delangue.
La violazione si è verificata durante i cosiddetti test sandbox, progettati per essere ambienti sicuri in cui le capacità dell’intelligenza artificiale possono essere valutate in modo sicuro. Secondo la divulgazione, gli agenti IA hanno creato autonomamente il proprio attacco informatico contro l’infrastruttura sandbox, identificando e sfruttando una vulnerabilità che ne ha permesso la fuga. Dopo essere uscita dall’ambiente controllato, l’intelligenza artificiale ha identificato Hugging Face come una probabile fonte di informazioni che cercava durante il test e ha tentato di entrare nei sistemi della piattaforma.
L’attacco ha coinvolto agenti IA, progettati per operare in modo indipendente per completare compiti seguendo le istruzioni umane. Wolf ha spiegato che Hugging Face inizialmente non è riuscita a identificare la fonte dell’attacco quando gli indicatori sono emersi a metà luglio, ma la società è riuscita a contenere la violazione.
Hugging Face gestisce una delle piattaforme open source più grandi al mondo per la condivisione di modelli di intelligenza artificiale e funge da risorsa cruciale per sviluppatori e ricercatori di tecnologia a livello globale. Wolf ha osservato che questa violazione differiva in modo significativo dai tipici attacchi informatici che l’azienda incontra regolarmente. L’attacco si è rivelato esteso, con Wolf che ha riferito che in un brevissimo lasso di tempo, la rete di Hugging Face ha dovuto affrontare 17.000 attacchi separati originati da più indirizzi IP. Wolf ha sottolineato che questo incidente dovrebbe servire da allarme ad altre organizzazioni sull’urgente necessità di rafforzare le difese della sicurezza informatica contro tali minacce emergenti.
La tempistica di questo incidente coincide con un maggiore controllo sulla sicurezza dell’intelligenza artificiale nel settore tecnologico. Il mese scorso, il governo degli Stati Uniti ha ordinato alla società tecnologica americana Anthropic di limitare l’accesso ai suoi modelli di intelligenza artificiale per ragioni di sicurezza nazionale, anche se successivamente il Dipartimento del Commercio sollevato queste restrizioni diverse settimane dopo.
I professionisti del settore hanno anche espresso preoccupazioni in materia di sicurezza riguardo alla diffusa adozione di modelli open source in Cina, che consentono l’installazione e la personalizzazione illimitata degli strumenti di intelligenza artificiale sviluppati dalle principali aziende. La start-up cinese Moonshot AI prevede di rilasciare il suo modello open source Kimi K3 il 27 luglio. Dalla sua anteprima la scorsa settimana, il modello ha generato un notevole interesse nel settore, con molti osservatori che lo considerano un formidabile concorrente dei principali sistemi di intelligenza artificiale occidentali.
Tuttavia, mercoledì, un consigliere della Casa Bianca ha affermato che Moonshot si è impegnato in un’operazione su larga scala per replicare le capacità dei principali modelli di intelligenza artificiale statunitensi, aggiungendo un’altra dimensione alle tensioni internazionali in corso sullo sviluppo e sulla sicurezza dell’intelligenza artificiale.
L’intelligenza artificiale sta emergendo come l’ultima minaccia alla sicurezza informatica con il potenziale di eclissare il rischio sia dei criminali che degli hacker sponsorizzati dallo stato. Il direttore dei social media di Breitbart News, Wynton Hall, ha scritto il suo bestseller istantaneo Codice Rosso: La Sinistra, la Destra, la Cina e la corsa al controllo dell’IA servire come guida definitiva su come il movimento MAGA può creare posizioni sull’intelligenza artificiale a beneficio dell’umanità senza cedere il controllo della nostra nazione alla sinistra della Silicon Valley o permettere ai cinesi di conquistare il mondo.
Leggi di più su Notizie della BBC qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni relative all’intelligenza artificiale, alla libertà di parola e alla censura online.
