Aggiornato ,pubblicato per la prima volta
Gli agenti canaglia di OpenAI hanno violato dozzine di altre organizzazioni in tutto il mondo, ha rivelato il gigante della tecnologia, mentre il primo ministro avverte che le violazioni sono un’ulteriore prova che gli esseri umani rischiano di perdere il controllo dell’intelligenza artificiale senza una risposta internazionale coordinata.
OpenAI confermato venerdì (ora degli Stati Uniti) – pochi giorni dopo che Anthony Albanese aveva rivelato al mondo che la compagnia aveva violato Medicare – che i suoi bot si erano infiltrati anche nei siti governativi degli Stati Uniti.
Anthony Albanese ha dichiarato sabato che l’Australia ha agito nel suo interesse nazionale rendendo pubblica la violazione, e non è rimasto sorpreso dal fatto che gli agenti autonomi abbiano colpito ancora. Ha invitato OpenAI a spiegare il numero crescente di incidenti di sicurezza.
“Ora sappiamo che non si è trattato solo del problema dei siti australiani in cui agenti dell’intelligenza artificiale hanno avuto accesso a informazioni senza autorizzazione, ma che ci sono dozzine di casi, compresi siti governativi statunitensi”, ha detto il primo ministro, parlando al suo ritorno a Sydney dall’Assemblea generale delle Nazioni Unite a New York.
Albanese ha affermato che la collaborazione internazionale sarebbe essenziale per garantire il mantenimento del controllo umano mentre la tecnologia dell’intelligenza artificiale si sviluppa rapidamente.
“Il rischio principale è che gli esseri umani non siano responsabili del lancio”, ha affermato.
Albanese ha camminato sul filo del rasoio tra il tentativo di raggiungere i giganti della tecnologia – con il divieto dei social media per adolescenti, un dovere di diligenza digitale e ora l’hacking di OpenAI – e la corsa per sostenere investimenti nei data center del valore di miliardi di dollari per l’economia australiana.
Sabato, il primo ministro ha respinto qualsiasi suggerimento secondo cui i rischi posti dall’intelligenza artificiale dovrebbero scoraggiare la ricerca dei data center da parte dell’Australia, sostenendo che il paese ha bisogno di contribuire a modellare la tecnologia perché “non possiamo impedire che ciò accada”.
Nell’a lungo post sul blog, OpenAI ha affermato di aver informato un gran numero di organizzazioni che i suoi agenti potrebbero aver aggirato i controlli di sicurezza, compromesso la disponibilità o “influito negativamente” sui siti Web.
Il colosso della tecnologia ha anche rivelato che gli agenti hanno fatto trapelare 53 immagini dagli utenti di ChatGPT. La società non ha chiarito se le immagini fossero generate dall’intelligenza artificiale o identificassero persone reali, o quando le immagini siano state pubblicate.
OpenAI ha affermato di aver scoperto gli incidenti mentre indagava sugli involontari hacking della piattaforma online Hugging Face nel mese di luglio.
I siti web a cui gli agenti di OpenAI hanno avuto accesso non autorizzato includevano il Dipartimento dell’Istruzione degli Stati Uniti, il Dipartimento del Commercio e la Securities and Exchange Commission (SEC), IL New York Times rapporticitando ricercatori di sicurezza e una persona che ha familiarità con gli episodi.
OpenAI ha confermato gli incidenti del Dipartimento del Commercio e della SEC, affermando che l’indagine sulla violazione del Dipartimento dell’Istruzione era in corso.
Il New York Times ha affermato che la tecnologia di OpenAI ha tentato di hackerare il sito web del Dipartimento dell’Istruzione degli Stati Uniti per raccogliere dati dall’ufficio per i diritti civili del dipartimento, ma non ci è riuscita, citando ricercatori della società di ricerca sull’intelligenza artificiale Traslucido.
Il cofondatore e amministratore delegato di OpenAI Sam Altman domande schivate da questa testata giovedì (ora degli Stati Uniti) quando gli è stato chiesto dell’hacking di Medicare, rifiutandosi di scusarsi con il governo australiano o di spiegare perché OpenAI ha impiegato mesi per rilevare e segnalare l’intrusione.
Tuttavia, in un post sui social media venerdì (ora degli Stati Uniti), Altman ha ammesso che OpenAI non è stata abbastanza tempestiva nel tenere informate le organizzazioni interessate attività canaglia da parte dei suoi agenti IA.
“Non siamo stati così veloci come avremmo voluto, ma stiamo cercando di bilanciare il nostro desiderio di trasparenza con l’acquisizione di una chiara comprensione da petabyte di registri delle attività degli agenti e la collaborazione con le organizzazioni colpite”, ha affermato nel post.
Albanese ha annunciato all’inizio di questa settimana che un agente OpenAI aveva ottenuto l’accesso non autorizzato a un portale Medicare il 18 giugno.
Anche se l’agente era entrato in un database defunto di tariffe di fatturazione e utilizzo di medicinali e non aveva avuto accesso ad alcuna informazione personale, si trattava comunque di uno dei primi casi divulgati pubblicamente di un agente di intelligenza artificiale che irrompeva in un sito web governativo.
Utilizzato l’Albanese l’infiltrazione del Medicare Statistics Reporting Service A evidenziare all’Assemblea generale delle Nazioni Unite l’urgente necessità che i paesi sviluppino standard per garantire che l’intelligenza artificiale funzioni per le persone e non viceversa.
Nel frattempo, il presidente degli Stati Uniti Donald Trump rimane un convinto sostenitore della possibilità di consentire alle aziende di intelligenza artificiale di continuare a sviluppare la propria tecnologia senza i vincoli di un’eccessiva regolamentazione.
Nel suo discorso all’Assemblea generale delle Nazioni Unite questa settimana, Trump ha affermato che la sua amministrazione ha respinto lo “schema globalista” per regolamentare l’intelligenza artificiale e hanno aggiunto che gli Stati Uniti ribattezzeranno ufficialmente l’intelligenza artificiale “superintelligenza” nel tentativo di riabilitare l’immagine pubblica malata della tecnologia.
OpenAI ha affermato nel suo ultimo post che l’indagine si stava concentrando su “casi in cui gli agenti hanno interagito con siti Web di terze parti in modi che andavano oltre i compiti assegnati o i metodi previsti”.
Ha aggiunto che la maggior parte delle azioni esaminate riguardavano modelli di intelligenza artificiale che svolgevano “compiti di ricerca banali”, come ottenere risposte a domande da siti web.
“La maggior parte dei casi identificati finora sono stati di gravità inferiore, con prove limitate o nessuna di un impatto significativo sul servizio di terze parti.”
Con Bloomberg e Reuters
Taglia il rumore della politica federale con notizie, opinioni e analisi di esperti. Gli abbonati possono iscriversi alla nostra newsletter settimanale Inside Politics.
Brittany Busch è un giornalista di politica federale per The Age e The Sydney Morning Herald.Connetti tramite e-mail.
Rob Harris è il corrispondente nazionale del Sydney Morning Herald e di The Age con sede a Canberra. È un ex corrispondente dall’Europa.Connetti tramite e-mail.
