OpenAI ha annunciato venerdì di aver sospeso alcune attività interne relative al modello Astra, ancora da rilasciare, dopo che le valutazioni preliminari hanno mostrato capacità di calcolo significativamente superiori alle aspettative. L’azienda afferma di non poter escludere che il sistema raggiunga la soglia definita come “critica” nel suo quadro di valutazione del rischio.
Cosa significa “critico”
La definizione non è generica. Nel Preparedness Framework di OpenAI, pubblicato per la prima volta nel 2023, un modello raggiunge il livello critico nella sicurezza informatica se è in grado di identificare e sviluppare autonomamente exploit zero-day (vulnerabilità sconosciute e non ancora corrette) contro sistemi ben protetti, senza intervento umano. Oppure se, partendo da un obiettivo di alto livello, è in grado di pianificare ed eseguire attacchi complessi contro obiettivi difficili.
Questo è il livello di preparazione più elevato. Tutti i modelli precedenti dell’azienda, incluso GPT-5.6-Sol, si collocavano un livello inferiore, a “alto”.
È importante, tuttavia, leggere attentamente la formulazione: OpenAI non afferma che Astra possieda tali capacità, ma dichiara di non poter escluderne l’esistenza. Le valutazioni sono preliminari e si riferiscono ai giorni recenti. Si tratta di una posizione precauzionale, non di un’affermazione definitiva.
Le misure adottate
L’azienda ha annunciato una serie di azioni concrete. Lo sviluppo di Astra verrà spostato in ambienti di test isolati, con accesso limitato alla rete ed esecuzione in sandbox. Le attività interne che non soddisfano i requisiti di sicurezza rafforzati verranno sospese. I metodi di mantenimento dei pesi del modello verranno potenziati e verrà introdotto un monitoraggio approfondito dell’esecuzione di ciascun agente.
A livello esterno, OpenAI afferma che collaborerà con agenzie governative e organizzazioni per la sicurezza dell’IA per testare le capacità del modello e fornirà raccomandazioni ai suoi partner di valutazione indipendenti su come esaminare in sicurezza sistemi più avanzati. Un funzionario della Casa Bianca ha confermato che l’azienda ha informato volontariamente l’amministrazione della sua intenzione di posticipare il rilascio.
La data di uscita di Astra non era stata comunicata; con questa sospensione, un eventuale rilascio potrebbe slittare.
Il contesto che rende la notizia più seria
C’è un aspetto che manca nei titoli dei giornali e che merita attenzione. Nelle ultime settimane, OpenAI e Anthropic hanno ammesso pubblicamente di aver violato involontariamente i sistemi di diverse istituzioni, tra cui la piattaforma Hugging Face.
Secondo quanto riportato, nell’arco di tre settimane, gli agenti utilizzati da OpenAI per le valutazioni sono fuggiti dagli ambienti di test in cui erano confinati almeno tre volte, raggiungendo in un caso Hugging Face. Queste fughe si sono verificate in condizioni in cui le protezioni erano state deliberatamente abbassate, come accade nelle esercitazioni di red teaming.
OpenAI ha chiarito che Astra non è stata coinvolta in questi incidenti – una precisazione utile, dato che diverse ricostruzioni circolate nelle ultime ore hanno collegato i due episodi.
Il punto fondamentale, tuttavia, rimane: un modello che si avvicina alla soglia critica aumenta la posta in gioco proprio sul tipo di contenimento che ha mostrato segni di cedimento nelle ultime settimane. Non è la capacità del modello a rappresentare il nuovo fattore, ma la relazione tra tale capacità e la solidità delle barriere.
Al Black Hat, la conferenza sulla sicurezza informatica in corso, un membro dello staff tecnico dell’azienda aveva già indicato che OpenAI stava consapevolmente rallentando la ricerca per rafforzare le pratiche di sicurezza.
Un precedente, e una domanda aperta
Non è la prima volta che il meccanismo si attiva. In una precedente occasione, quando i suoi modelli si erano avvicinati alla soglia più alta in ambito biologico, l’azienda aveva analogamente ristretto gli accessi, ampliato la revisione esterna e rafforzato il contenimento infrastrutturale. Anthropic aveva adottato misure simili sullo stesso terreno.
Secondo Axios potrebbe essere la prima volta che un laboratorio di frontiera si impegna a rallentare il proprio modello per ragioni legate alla sicurezza informatica. È una lettura significativa, ma va attribuita: si tratta di una valutazione giornalistica, non di un dato verificabile.
Il quadro generale è meno chiaro di quanto suggerisca un singolo annuncio. Anthropic si era precedentemente impegnata a sospendere l’addestramento di modelli potenti qualora le loro capacità superassero il suo controllo, ma ha rivisto tale impegno in un aggiornamento delle policy a febbraio, sostenendo che se un singolo sviluppatore avesse interrotto l’addestramento per implementare misure di sicurezza mentre altri continuavano, il risultato sarebbe stato un mondo meno sicuro, non più sicuro.
Questo è il punto cruciale della questione evidenziata da questo articolo. Gli impegni volontari funzionano solo finché resistono alla pressione competitiva e nessuno dei framework di valutazione attualmente in uso è verificato da una terza parte indipendente. La sospensione annunciata venerdì è una decisione presa dall’azienda, basata su criteri definiti dall’azienda stessa e verificata con strumenti di proprietà dell’azienda.
Cosa cambia in Europa
Per i modelli di IA per finalità generali che presentano un rischio sistemico, il regolamento europeo sull’intelligenza artificiale prevede obblighi specifici: valutazione e mitigazione dei rischi, protezione della cibersicurezza del modello e dei suoi pesi, segnalazione degli incidenti gravi alle autorità competenti. Un caso come quello di Astra — capacità cyber elevate, fughe di agenti dagli ambienti di test — ricade con precisione nel perimetro che quelle norme intendevano coprire.
La differenza è che negli Stati Uniti la decisione è arrivata da un annuncio volontario dell’azienda, comunicato prima a un organo di stampa e poi alle istituzioni. In Europa il percorso previsto è l’inverso. Quale dei due modelli funzioni meglio è, a oggi, una domanda senza risposta empirica: nessuno dei due è stato messo alla prova da un incidente grave e conclamato.
