OpenAI, la società dietro il sistema di intelligenza artificiale (AI) ChatGPT, ha pubblicato mercoledì un rapporto che mostrava come un funzionario cinese solitario avesse accidentalmente scoperto una rete mondiale per intimidire i dissidenti utilizzando ChatGPT per rivedere e modificare i loro rapporti.
L’OpenAI rapporto non ha identificato il funzionario cinese responsabile e potrebbero essere state diverse persone che utilizzavano un unico account, sebbene il rapporto lo descrivesse come un utente “individuale”.
“L’attività dell’utente ha rivelato una strategia ben finanziata e meticolosamente orchestrata per IO segrete (operazioni di informazione) contro avversari nazionali e stranieri, chiamate ‘operazioni speciali informatiche'”, afferma il rapporto.
“Come parte di questa strategia, hanno cercato di utilizzare il nostro modello per pianificare un’operazione di inserzione segreta contro il primo ministro giapponese, ma il nostro modello ha rifiutato”, ha affermato OpenAI.
Il primo ministro giapponese Takaichi Sanae è stato a obiettivo primario del Partito Comunista Cinese da poco dopo aver assunto l’incarico perché ha affermato che una potenziale invasione cinese di Taiwan sarebbe una “situazione pericolosa per la sopravvivenza” del Giappone. Quel linguaggio specifico autorizzerebbe l’intervento militare giapponese, anche sotto l’attuale costituzione pacifista. In precedenza i primi ministri giapponesi erano stati cauti nel dichiarare inequivocabilmente che sarebbero intervenuti per proteggere Taiwan.
Secondo il rapporto OpenAI, l’utente cinese ha cercato di ottenere l’aiuto di ChatGPT per condurre una campagna di guerra dell’informazione contro Takaichi ancor prima che diventasse primo ministro, perché “criticava pubblicamente lo stato dei diritti umani nella Mongolia Interna”. L’utente cinese voleva anche che l’intelligenza artificiale aiutasse a “fomentare la rabbia contro le tariffe statunitensi”.
OpenAI ha affermato che l’autore della minaccia cinese ha utilizzato ChatGPT anche per “modificare rapporti periodici sullo stato”, che hanno rivelato che la Cina stava già conducendo una guerra d’informazione contro Takaichi prima di avvicinarsi a ChatGPT, e stava anche eseguendo uno “sforzo globale per sopprimere il dissenso e mettere a tacere i critici sia online che offline, in patria e all’estero”.
“Questo sforzo sembra essere su larga scala, dispendioso in termini di risorse e duraturo, coinvolgendo almeno centinaia di dipendenti, migliaia di account falsi su decine di piattaforme e l’uso di modelli di intelligenza artificiale implementati localmente, in particolare quelli cinesi”, afferma il rapporto.
In altre parole, questo funzionario cinese ha deciso di utilizzare ChatGPT per ridurre alcuni aspetti della modifica dei rapporti destinati ai propri superiori – e ha inavvertitamente rivelato all’intelligenza artificiale la portata mozzafiato del programma cinese repressione transnazionale.
Questi dettagli non sono una grande sorpresa per gli studiosi della repressione del Partito Comunista Cinese, ma è piuttosto imbarazzante che un funzionario cinese li descriva in dettaglio, mentre cerca di convincere un robot a svolgere le pratiche burocratiche per loro.
OpenAI ha affermato che i dettagli inseriti in ChatGPT includevano descrizioni di “dozzine di tattiche, che vanno dalla segnalazione abusiva degli account dei dissidenti sui social media, attraverso la pubblicazione di massa online, alla falsificazione di documenti e all’impersonificazione di funzionari statunitensi per intimidire i critici”. I ricercatori di OpenAI sono stati in grado di trovare “attività online coerenti con alcune delle tattiche descritte da questo utente”.
Uno degli altri obiettivi di questa campagna, oltre a Takaichi, era l’utente cinese dei social media “whyyoutouzhele”, noto anche come “L’insegnante Li non è il tuo insegnante”, il nome online di un dissidente di spicco chiamato Li Ying.
Se i rapporti forniti dal funzionario cinese a ChatGPT fossero accurati, la campagna di guerra informatica della Cina avrebbe generato “milioni di post sulle reti cinesi e decine di migliaia di post su reti straniere, utilizzando migliaia di account, molti dei quali erano falsi o funzionavano sotto la direzione dell’operazione”.
OpenAI ha trovato alcune prove dell’efficacia di queste campagne IO, tra cui un numero ridotto di follower e una minore attività online per i dissidenti presi di mira, e alcuni account dissidenti sono stati completamente cancellati, sebbene obiettivi di alto profilo come il primo ministro giapponese e Teacher Li Is Not Your Teacher non siano stati danneggiati molto.
“Questo è l’aspetto della moderna repressione transnazionale cinese. Non è solo digitale. Non si tratta solo di trolling. È industrializzata. Si tratta di cercare di colpire i critici del PCC con tutto, ovunque, tutto in una volta”, ha affermato Ben Nimmo, ricercatore principale di OpenAI. detto giornalisti.
