Il tentativo del presidente Donald Trump di vietare alle nazioni straniere di utilizzare le ultime versioni dei modelli di intelligenza artificiale dell’azienda statunitense Anthropic ha suscitato una dura reazione da tutto il mondo. tecnologia spazio, con molti che considerano il divieto impraticabile e altri che avvertono che la misura ostacolerà gli sforzi del Paese per competere con la Cina nel AI gara.
Venerdì, la società con sede in California ha rivelato che una “direttiva sul controllo delle esportazioni” era stata emessa per i suoi modelli Claude Fable 5 e Mythos 5, impedendone l’uso “da parte di qualsiasi cittadino straniero, sia all’interno che all’esterno degli Stati Uniti, compresi i dipendenti Anthropic di nazionalità straniera”.
Sebbene il governo abbia fornito dettagli limitati, Anthropic ha affermato di ritenere che la direttiva fosse dovuta a una potenziale vulnerabilità, in particolare a un metodo di “jailbreaking” di Fable 5. Il jailbreak si riferisce al superamento delle restrizioni del software, come i guardrail di sicurezza di un’intelligenza artificiale, progettati per proteggere un sistema o una rete.
La società ha affermato di aver indagato sul problema e di aver scoperto che mette in luce solo una manciata di punti deboli precedentemente noti che anche altri modelli disponibili al pubblico possono scoprire, pur riconoscendo che la protezione a prova di jailbreak probabilmente “non è attualmente possibile per nessun fornitore di modelli”.
A seguito dell’ordinanza, la società ha dichiarato di dover sospendere ogni accesso a entrambi i modelli per conformarsi, si è scusata con i propri clienti per il “disturbo” e ha affermato di ritenere che ciò derivi da un “malinteso” da parte del governo.
Newsweek ha contattato Anthropic e il Dipartimento del Commercio via e-mail per un commento.
Reazioni dal settore tecnologico
“Non siamo d’accordo sul fatto che la scoperta di uno stretto potenziale jailbreak dovrebbe essere motivo per richiamare un modello commerciale distribuito a centinaia di milioni di persone”, ha affermato Anthropic nella dichiarazione pubblicata venerdì. “Se questo standard fosse applicato in tutto il settore, riteniamo che sostanzialmente bloccherebbe tutte le implementazioni di nuovi modelli per tutti i fornitori di modelli di frontiera”.
Sia negli Stati Uniti che all’estero, gran parte delle critiche da parte delle principali figure tecnologiche sono state rivolte al governo statunitense, evidenziando al contempo la difficoltà e le conseguenze dell’imposizione di controlli sulle esportazioni di una tecnologia come l’intelligenza artificiale.
Dean Ball, ex consigliere AI della Casa Bianca
In una serie di post su X, Ball, uno degli autori del “Piano d’azione AI” dell’amministrazione Trump, ha definito “sconcertante” il fatto che gli Stati Uniti tentassero di limitare l’accesso straniero ai modelli antropici.
“Un’amministrazione la cui posizione è che *dovremmo* esportare chip di intelligenza artificiale avanzati in Cina, che vuole anche vietare…alla Gran Bretagna (e a ogni altro non americano sulla Terra)…di utilizzare i nostri migliori modelli?” ha scritto sabato.
“Non so dire se si tratti di un’azione legale contro l’Anthropic in particolare o di un’estrema vendita di falchi per la sicurezza nazionale. In ogni caso, è semplicemente da cartone animato”, ha detto in un post separato.
Chris McGuire, ex consigliere del Dipartimento di Stato
McGuire, membro senior per la Cina e le tecnologie emergenti presso il Council on Foreign Relations, ha affermato che i controlli mirati sulle esportazioni di modelli di intelligenza artificiale potrebbero essere considerati “prudenti”, ma ha criticato il tentativo di un divieto universale definendolo “altamente discutibile”.
“Imporre controlli altrettanto ampi sulle esportazioni, che limitano anche l’accesso ai cittadini stranieri, è semplicemente assurdo e ovviamente comporterà il ritiro del modello dalla distribuzione, come è appena accaduto”.
McGuire, un Dipartimento di Stato e Sicurezza nazionale Allo stesso modo, il consigliere del Consiglio durante il mandato di Joe Biden si è chiesto perché gli Stati Uniti avrebbero esportato chip di intelligenza artificiale in Cina imponendo controlli sui “modelli che quegli stessi chip producono e gestiscono”.
Peter Girnus, ricercatore sulle minacce software
Ginus disse che il divieto era per certi aspetti responsabilità di Anthropic, poiché la società ha più volte commercializzato il suo modello Claude Mythos come troppo potente per essere rilasciato.
“Se descrivi il tuo prodotto come una munizione in ogni comunicato stampa, alla fine un governo ti prende in parola”, ha scritto su X. “Hanno scritto loro stessi il predicato legale e lo hanno chiamato marchio”.
Tuttavia, ha affermato che controlli sulle esportazioni come questo alla fine difficilmente riusciranno ad avere successo, data la natura delle “munizioni” in questione e perché “la matematica non si ferma alle dogane”.
“I dipendenti stranieri di Anthropic sono ora esclusi dal modello che hanno costruito”, ha aggiunto. “Le munizioni sono nell’edificio e alle persone che le hanno fabbricate non è permesso guardarle.”
Gary Marcus, scienziato
Marcus, noto per il suo lavoro e i suoi frequenti commenti sull’intelligenza artificiale, ha definito la direttiva “scioccante” e ha affermato che ciò si sarebbe rivelato “controproducente per l’industria statunitense dell’intelligenza artificiale”.
“Forse però fa un favore alla Cina”, ha affermato pubblicato su X.
“Certamente ogni cinese che lavora in un’azienda statunitense di intelligenza artificiale (e ce ne sono molti) prenderà in considerazione la possibilità di tornare alla concorrenza in Cina il prima possibile. E gli investitori inizieranno a chiedersi se le società americane di intelligenza artificiale possano prosperare in questa atmosfera. Se volete un esempio di regolamentazione dell’IA in grado di soffocare l’innovazione, è proprio questo.”
Vassant Shetty, imprenditore indiano
Reazioni sono arrivate anche dall’estero, con Shetty che sottolinea che un controllo universale delle esportazioni sia sugli alleati che sui nemici creerà attriti tra le potenze globali.
“L’India è il secondo mercato più grande a livello globale sia per ChatGPT che per Anthropic. Se riescono a disattivare l’accesso con la semplice pressione di un pulsante come questo, siamo assolutamente alla mercé di un governo straniero. La geopolitica sta diventando sempre più brutta. La globalizzazione nella forma attuale è morta. Questo è un enorme campanello d’allarme per l’India”, ha pubblicato su X.
Ciaran Martin, funzionario della sicurezza informatica del Regno Unito
“È successo completamente all’improvviso”, ha affermato Martin, ex capo del National Cyber Security Centre del governo britannico, durante un’intervista a Channel 4.
“Probabilmente si rivelerà insostenibile”, ha continuato. “Perché (…) sebbene sia concepito come un ordine per impedire ai cittadini stranieri di accedere a questo nuovo potente modello di intelligenza artificiale per motivi di sicurezza, l’unico modo in cui può essere fatto praticamente è ritirare completamente il modello, perché Anthropic ha migliaia di cittadini stranieri che lavorano per loro e milioni di utenti che non riesce a rilevare se sono americani o meno.”
“Gli Stati Uniti sono ossessionati dall’idea di vincere la corsa all’intelligenza artificiale con la Cina”, ha aggiunto. “Questo lo rallenta.”
Cosa succede dopo
Anthropic si è ripetutamente impegnata in scontri con il governo degli Stati Uniti, principalmente per quanto riguarda le applicazioni militari della sua tecnologia e il suo potenziale da utilizzare per la sorveglianza domestica di massa.
Oltre all’attuale tentativo di imporre controlli sulle esportazioni di Fable, Anthropic è impegnata in una battaglia legale con Dipartimento della Difesaessendo stato inserito in una lista nera della catena di approvvigionamento all’inizio di quest’anno dopo aver rifiutato di consentire ai militari l’accesso illimitato ai suoi modelli Claude.
Molti nel settore tecnologico credono che il governo farà marcia indietro o modificherà la sua richiesta di bloccare i cittadini stranieri che utilizzano i modelli dell’azienda, e Anthropic ha indicato che è in procinto di presentare ricorso contro la direttiva.
“Come abbiamo dichiarato pubblicamente, crediamo che il governo dovrebbe avere la capacità di bloccare implementazioni non sicure, come parte di un processo legale che sia trasparente, giusto, chiaro e fondato su fatti tecnici”, si legge nella dichiarazione. “Questa azione non aderisce a questi principi.
“Ci scusiamo con i nostri clienti per questo disagio. Riteniamo che si tratti di un malinteso e stiamo lavorando per ripristinare l’accesso il prima possibile.”
