I senatori australiani chiedono che l’amministratore delegato di OpenAI Sam Altman compaia davanti a un’inchiesta parlamentare sull’intelligenza artificiale mentre il colosso della tecnologia rivela che i suoi agenti disonesti hanno violato dozzine di altre organizzazioni in tutto il mondo.
OpenAI ha confermato venerdì (ora degli Stati Uniti) che i suoi bot si sono infiltrati nei siti web del governo degli Stati Uniti e hanno fatto trapelare più di 50 foto degli utenti di ChatGPT pochi giorni dopo che Anthony Albanese aveva rivelato al mondo che la compagnia aveva violato Medicare.
Sabato il primo ministro ha sottolineato l’ampliamento delle violazioni della sicurezza poiché vi sono ulteriori prove che gli esseri umani rischiano di perdere il controllo della tecnologia senza una risposta internazionale coordinata, pur insistendo sul fatto che il lancio dell’intelligenza artificiale è inevitabile e che l’Australia deve salire a bordo.
Albanese ha camminato sul filo del rasoio tra il tentativo di raggiungere i giganti della tecnologia – con il divieto dei social media per adolescenti, un dovere di diligenza digitale e ora l’hacking di OpenAI – e la corsa per sostenere investimenti nei data center del valore di miliardi di dollari per l’economia australiana.
Ma l’implementazione sta affrontando la reazione negativa delle comunità, che la scorsa settimana si sono scagliate contro l’espansione delle imponenti strutture nei sobborghi australiani in un’inchiesta del Senato guidata dai Verdi.
L’inchiesta sta ora convocando Altman e l’amministratore delegato di Anthropic, Dario Amodei, a comparire giovedì per rispondere a domande sulla crescente presenza delle loro aziende in Australia e sull’hacking di Medicare.
“Tutto questo non può essere fatto a porte chiuse: il pubblico ha il diritto di sapere cosa è successo qui”, ha detto Sarah Hanson-Young, presidente della commissione e senatrice dei Verdi.
L’inchiesta non ha il potere di costringere gli stranieri a presentarsi, ma potrebbe aumentare la pressione sui loro rappresentanti australiani se gli amministratori delegati si rifiutassero di farsi avanti.
Hanson-Young ha affermato che, mentre i leader tecnologici avvertivano che i loro agenti rappresentavano una minaccia esistenziale per l’umanità, stavano anche facendo pressioni sul governo australiano affinché annacquare le leggi sul copyright e garantire loro l’accesso alle risorse nazionali.
“Se credono veramente ai propri avvertimenti, devono farsi avanti, affrontare le domande del Senato e
avere una conversazione onesta su quale dovrebbe essere una regolamentazione efficace e duratura di questo settore
assomiglia”, ha detto il portavoce delle comunicazioni dei Verdi.
Albanese ha detto sabato che l’Australia ha agito nel suo interesse nazionale rendendo pubblica la violazione di Medicare, e non è rimasto sorpreso dal fatto che gli agenti autonomi abbiano colpito ancora. Ha invitato OpenAI a spiegare il numero crescente di incidenti di sicurezza.
“Ora sappiamo che non si è trattato solo del problema dei siti australiani in cui agenti dell’intelligenza artificiale hanno avuto accesso a informazioni senza autorizzazione, ma che ci sono dozzine di casi, compresi siti governativi statunitensi”, ha detto il primo ministro, parlando al suo ritorno a Sydney dall’Assemblea generale delle Nazioni Unite a New York.
“Non puoi impedire che accada. È qui adesso e le rivelazioni di questa settimana lo hanno appena confermato.”
Albanese ha affermato che la collaborazione internazionale sarebbe essenziale per garantire il mantenimento del controllo umano mentre la tecnologia dell’intelligenza artificiale si sviluppa rapidamente.
“Il rischio principale è che gli esseri umani non siano responsabili del lancio”, ha affermato.
Nell’a lungo post sul blog di venerdì (ora degli Stati Uniti), OpenAI ha affermato di aver notificato a dozzine di organizzazioni che i suoi agenti potrebbero aver aggirato i controlli di sicurezza, compromessa la disponibilità o “influito negativamente” sui siti Web.
Il colosso della tecnologia ha anche rivelato che gli agenti hanno fatto trapelare 53 immagini dagli utenti di ChatGPT. La società non ha chiarito se le immagini fossero generate dall’intelligenza artificiale o identificassero persone reali, o quando le immagini siano state pubblicate.
OpenAI ha affermato di aver scoperto gli incidenti mentre indagava sugli involontari hacking della piattaforma online Hugging Face nel mese di luglio.
La società ha affermato che l’indagine si è concentrata sugli agenti che vanno “oltre i compiti assegnati o i metodi previsti” mentre intraprendono “compiti di ricerca banali”.
“La maggior parte dei casi identificati finora sono stati di gravità inferiore, con prove limitate o assenti di un impatto significativo sul servizio di terze parti”, ha affermato OpenAI.
Altmann domande schivate da questa testata sull’hacking di Medicare all’inizio di questa settimana, rifiutandosi di scusarsi o di spiegare perché OpenAI ha impiegato mesi per rilevare e segnalare l’intrusione.
Tuttavia, in un post sui social media venerdì (ora degli Stati Uniti), Altman ha ammesso che OpenAI non è stata abbastanza tempestiva nel tenere informate le organizzazioni interessate.
“Non siamo stati così veloci come avremmo voluto, ma stiamo cercando di bilanciare il nostro desiderio di trasparenza con l’acquisizione di una chiara comprensione da petabyte di registri delle attività degli agenti e la collaborazione con le organizzazioni colpite”, ha affermato nel post.
Albanese ha annunciato all’inizio di questa settimana che un agente OpenAI aveva ottenuto l’accesso non autorizzato a un portale Medicare a giugno, utilizzando l’hack per evidenziare alle Nazioni Unite l’urgente necessità che i paesi sviluppino standard per garantire che l’intelligenza artificiale funzioni per le persone e non viceversa.
Sebbene l’agente abbia fatto irruzione in un database defunto e non abbia avuto accesso ad alcuna informazione personale, si è comunque trattato di uno dei primi casi divulgati pubblicamente di un agente AI che ha fatto irruzione in un sito web governativo.
Il primo ministro è sempre più in disaccordo con Donald Trump sulla questione, con il presidente degli Stati Uniti che rimane un convinto sostenitore che le aziende di intelligenza artificiale dovrebbero continuare a sviluppare la loro tecnologia senza le catene di una regolamentazione eccessiva.
La Coalizione ha sostenuto che il Labour deve ottenere urgentemente i modelli più avanzati di intelligenza artificiale di frontiera degli Stati Uniti per rafforzare le difese di sicurezza informatica dell’Australia.
La vice leader dell’opposizione Jane Hume ha detto sabato mattina che la violazione è stata più probabilmente un “cazzo” che una cospirazione, ma l’Australia non può contare sul fatto che il prossimo hack sia altrettanto benigno.
“Sono un po’ preoccupata che il governo stia usando questa opportunità come un’opportunità per agitare il dito contro le grandi aziende tecnologiche, o provare a sbalordire Donald Trump sulla scena mondiale”, ha detto a 2GB.
“Questo è il campanello d’allarme di cui abbiamo bisogno. Dobbiamo assicurarci che le società di intelligenza artificiale collaborino con l’Australia, senza imporre loro regole ridicole che semplicemente non rispetteranno, il che significa che vanno a stabilirsi altrove.”
Il New York Times hanno riferito che gli agenti di OpenAI hanno ottenuto accesso non autorizzato al Dipartimento dell’Istruzione degli Stati Uniti, al Dipartimento del Commercio e alla Securities and Exchange Commission (SEC).
OpenAI ha confermato gli incidenti del Dipartimento del Commercio e della SEC, affermando che le indagini sulla violazione del Dipartimento dell’Istruzione erano in corso.
Brittany Busch è un giornalista di politica federale per The Age e The Sydney Morning Herald.Connetti tramite e-mail.
