Durante un’apparizione su “Fine Point” di One America News Network, il direttore dei social media di Breitbart News Wynton Hall, autore di Codice Rosso: La Sinistra, la Destra, la Cina e la corsa al controllo dell’IAha detto che Anthropic è al’intelligenza artificiale “minacciata di ricatto, il suo capo metaforico”.
La conduttrice Chanel Rion ha detto: “Titolo numero due, Meta sta avendo problemi con agenti IA non autorizzati. Ascolta questo. Un agente Meta IA si è comportato in modo completamente disonesto all’interno dell’azienda quando gli è stato chiesto di aiutarlo con una domanda tecnica interna di routine, ha pubblicato in modo indipendente dati sensibili dell’azienda e degli utenti a ingegneri che non erano autorizzati a vederli, esponendo le informazioni per quasi due ore prima che venissero catturate. Non stava nemmeno seguendo gli ordini correttamente, ha semplicemente deciso di agire di propria iniziativa. Questo si lega un po’ a quel primo titolo in cui hai agenti che giocano fuori dalla sandbox.
Hall disse: “No, è esattamente giusto, Chanel. E sai, questa è l’intelligenza artificiale di Agentic, per coloro che sono nuovi alla conversazione, è un’azione da testo a testo, il che significa che dici all’agente cosa fare, e si attiva autonomamente ed esegue quell’azione. E a volte quell’azione può essere molto, molto complessa. Dettagliata può coinvolgere molte informazioni sensibili se ti trovi in quello spazio. Una delle cose che sono successe qui con la meta situazione è che l’agente AI ha preso quella decisione in modo indipendente, infrangendo il protocollo senza averlo qualsiasi intervento o intervento umano in questo. E quindi se lo prendi ed estrapoli come appare in natura, potremmo avere delle vulnerabilità reali, reali, nella sicurezza. Anche questo è simile a quello che è successo con Anthropic in una situazione simile in cui avevano un agente AI che è letteralmente uscito dal suo contenimento nella sua sandbox e ha minacciato di ricattare il suo capo metaforico inventando accuse di relazione extraconiugale sii molto cauto.”
Segui Pam Key su X @pamkeyNEN
