Home Cronaca L’agente canaglia di OpenAI ha violato un account presso una seconda azienda...

L’agente canaglia di OpenAI ha violato un account presso una seconda azienda tecnologica: Report

80
0

L’ultimo attacco arriva dopo che un agente autonomo è sfuggito a un test controllato e ha avuto accesso ai server della società di intelligenza artificiale Hugging Face.

Il modello canaglia di intelligenza artificiale uscito da un test controllato e ha violato un’altra società di intelligenza artificiale ha compromesso anche il cliente di una seconda azienda tecnologica, riferisce l’agenzia di stampa Reuters.

Secondo a sequenza temporale pubblicato martedì da Hugging Face, la società violata dal modello di test di OpenAI, l’agente canaglia è entrato in un ambiente di test isolato (o sandbox) “ospitato sull’infrastruttura di un fornitore di terze parti” e da lì ha lanciato il suo ultimo hack.

Storie consigliate

elenco di 3 elementifine dell’elenco

Hugging Face non ha nominato la società terza, ma Reuters ha riferito che si trattava di Modal Labs con sede a New York.

Il responsabile della tecnologia di Modal, Akshat Bubna, ha affermato che l’agente ha sfruttato il codice vulnerabile scritto da un cliente ospitato sulla loro piattaforma.

“La piattaforma o l’isolamento di Modal non sono stati compromessi in alcun modo”, ha detto Bubna a Reuters.

Sebbene la compromissione di un cliente Modal fosse solo una parte della campagna di hacking contro Hugging Face, ciò dimostra che l’agente disonesto si aggirava più lontano di quanto precedentemente noto.

OpenAI ha rifiutato di commentare specificamente l’hacking di uno dei clienti di Modal, rimandando invece Reuters a un aggiornamento in cui la società affermava che il suo agente disonesto aveva violato quattro account presso quattro servizi separati.

OpenAI non ha identificato i servizi.

La società ha affermato di non aver identificato “nessun’altra attività al livello di gravità o portata di ciò che abbiamo condiviso relativo a Hugging Face, che abbia comportato una compromissione a livello di piattaforma”.

Oltre il controllo umano

Il recente hacking di Hugging Face ha attirato l’attenzione attenzione e allarme globalepoiché l’agente fuori controllo di OpenAI è riuscito a sfuggire al suo ambiente di test e raggiungere l’Internet aperta.

Ha quindi utilizzato i dettagli di accesso rubati e ha riscontrato un difetto di sicurezza sconosciuto per accedere ai server Hugging Face, ha affermato OpenAI.

L’azienda di intelligenza artificiale ha affermato che l’hacking rappresentava l’impegno dell’agente a “lunghezze estreme” per recuperare informazioni che avrebbero aiutato a soddisfare gli obiettivi del test.

Il cofondatore di Hugging Face, Clement Delangue, ha affermato che la società sospettava che dietro l’attacco ci fosse un laboratorio di frontiera e che credeva che non ci fossero intenti dannosi da parte di OpenAI.

Secondo OpenAI, da allora l’agente canaglia è stato “disattivato, crittografato e limitato dall’accesso alla ricerca”.

Gli esperti hanno ripetutamente ha lanciato l’allarme sugli attacchi informatici e sui modelli abilitati all’intelligenza artificiale che sfuggono al controllo umano.

Source link