Gli hacker sono riusciti a compromettere con successo numerosi importanti account Instagram, incluso il profilo della Casa Bianca di Barack Obama, semplicemente chiedendo al chatbot di supporto AI di Meta di modificare gli indirizzi e-mail associati ai profili di destinazione, riferiscono i ricercatori di sicurezza.
404 mezzi rapporti che una vulnerabilità recentemente scoperta nel sistema di assistenza clienti basato sull’intelligenza artificiale di Meta ha consentito agli hacker di assumere il controllo di diversi account Instagram di alto profilo attraverso un metodo sorprendentemente semplice. La violazione ha interessato numerosi account importanti, tra cui il profilo Instagram della Casa Bianca di Barack Obama, l’account del sergente capo della Space Force e l’account ufficiale della società Sephora.
La tecnica di sfruttamento richiede una sofisticazione tecnica minima. Gli hacker hanno condiviso video e screenshot nei gruppi Telegram frequentati da ricercatori di sicurezza e comunità di hacker, dimostrando l’allarmante facilità con cui gli account possono essere compromessi. In un caso documentato, un utente malintenzionato ha avviato una conversazione con il bot di supporto AI di Meta e ha fatto una semplice richiesta di collegare un account di destinazione con un nuovo indirizzo e-mail, fornendo il nome utente di destinazione e l’indirizzo e-mail dell’aggressore promettendo di inviare un codice di verifica.
Il portavoce di Meta, Andy Stone, ha riconosciuto l’hacking abilitato dall’intelligenza artificiale in una breve dichiarazione su X:
L’incidente evidenzia rischi significativi associati alla delega delle funzioni critiche di sicurezza degli account ai sistemi di intelligenza artificiale. A marzo, Meta ha annunciato la sua decisione di espandere il supporto basato sull’intelligenza artificiale su tutti gli account Facebook e Instagram, garantendo a questi sistemi automatizzati la capacità di reimpostare le password ed eseguire altre attività essenziali di manutenzione degli account. La pagina del prodotto della funzionalità promuove funzionalità tra cui la sicurezza e il ripristino dell’account, soluzioni pubblicitarie piuttosto che semplici suggerimenti.
Le vittime di questi furti di account segnalano un ulteriore livello di frustrazione nella loro incapacità di inoltrare i loro problemi ai rappresentanti del supporto umano. Questa limitazione aggrava il problema, lasciando gli utenti senza possibilità di ricorso quando il sistema di intelligenza artificiale stesso diventa il vettore della compromissione dell’account.
Gli esperti di sicurezza mettono da tempo in guardia sui potenziali rischi derivanti dall’affidarsi eccessivamente all’intelligenza artificiale per operazioni sensibili, in particolare quelle che coinvolgono la sicurezza e l’autenticazione degli account. Questo incidente fornisce prove concrete di tali preoccupazioni, mostrando come i sistemi automatizzati possano essere manipolati attraverso tattiche di ingegneria sociale che potrebbero non ingannare il personale di supporto umano.
La portata della vulnerabilità non è chiara, così come il numero totale di account che potrebbero essere stati compromessi utilizzando questo metodo. La natura di alto profilo degli account interessati suggerisce che gli aggressori abbiano preso di mira specificamente profili preziosi o influenti, sebbene la tecnica possa teoricamente essere applicata a qualsiasi account Instagram.
Notizie Breitbart recentemente segnalato su un sistema di monitoraggio dei farmaci basato sull’intelligenza artificiale che non è riuscito a rilevare un infermiere che rubava fentanil per uso personale. Queste storie dimostrano il pericolo di sostituire i sistemi esistenti con strumenti basati sull’intelligenza artificiale. Il direttore dei social media di Breitbart News, Wynton Hall, ha scritto il suo bestseller istantaneo Codice Rosso: La Sinistra, la Destra, la Cina e la corsa al controllo dell’IA servire come guida definitiva su come il movimento MAGA può creare posizioni sull’intelligenza artificiale a beneficio dell’umanità senza cedere il controllo della nostra nazione alla sinistra della Silicon Valley o permettere ai cinesi di conquistare il mondo.
Leggi di più su 404 Media qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni relative all’intelligenza artificiale, alla libertà di parola e alla censura online.
