Anthropic ha riscritto la sua politica di utilizzo per la prima volta in più di un anno, aggiungendo nuove restrizioni sull’interferenza elettorale, sullo sviluppo di armi e sulla sorveglianza. Il colosso dell’intelligenza artificiale di Dario Amodei ha alzato le sopracciglia aggiungendo anche una politica che vieterà gli utenti che trattano il chatbot AI Claude con “comportamenti abusivi o crudeli”.
Il limite rapporti che l’aggiornamento, pubblicato giovedì, è la prima revisione della politica da parte di Anthropic in oltre un anno. Tra i cambiamenti c’è una nuova regola che vieta “comportamenti prolungati e inutili abusivi o crudeli” nei confronti di Claude. Anthropic ha affermato che la regola “è destinata ad applicarsi solo in casi estremi, in cui gli utenti agiscono ripetutamente in modo crudele nei confronti dei nostri modelli, senza uno scopo riconoscibile. Non si applica alle versioni comuni di frustrazione degli utenti, respingimenti, temi creativi oscuri o test e ricerche di modelli”.
La regola sulla crudeltà si basa su un passo annunciato da Anthropic lo scorso agosto, quando affermava che Claude avrebbe potuto porre fine alle conversazioni con utenti “persistentemente dannosi o abusivi” come parte della sua ricerca sul “benessere modello”. Secondo la politica aggiornata, interrompere una conversazione è ancora il “meccanismo di applicazione principale” disponibile. Anthropic non ha detto se intende aggiungere altri strumenti di applicazione, come il divieto assoluto degli utenti.
La politica ripiega anche quelle che Anthropic chiamava restrizioni precedentemente “sparse” in un unico divieto di campagne commerciali o politiche ingannevoli, volte a “tentativi di oscurare chi si nasconde dietro un messaggio o amplificare il contenuto attraverso account o post falsi”. Una sezione elettorale dedicata ora vieta l’inganno degli elettori, i tentativi di interrompere le elezioni e la disinformazione “sui candidati o su come votare, l’impersonare candidati o funzionari elettorali o il tentativo di reprimere l’affluenza alle urne”.
Sulle armi, Anthropic ha ampliato il suo divieto esistente per coprire “software e componenti che fanno funzionare le armi, nonché azioni come armare droni e altri veicoli autonomi”. La società ha affermato di aver già assistito a molteplici tentativi di utilizzare Claude per sviluppare linee guida per sistemi d’arma o per controllare software relativi alle armi.
Anche la sorveglianza diventa più dettagliata. Il più recente rapporto di intelligence sulle minacce di Anthropic ha rilevato un crescente utilizzo della sorveglianza potenziata da Claude per rintracciare i dissidenti politici. La nuova politica afferma chiaramente: “È vietato tracciare le persone senza il loro consenso, sia che ciò avvenga in tempo reale o attraverso l’analisi di dati precedentemente raccolti”. Si spinge oltre sugli usi delle forze dell’ordine: “Claude non può essere utilizzato per decidere o raccomandare chi indagare, arrestare o incriminare in un processo di polizia o di giustizia penale. Proibiamo inoltre che Claude venga utilizzato per costruire o migliorare strumenti progettati per la sorveglianza.”
Tali regole comportano un’eccezione per il lavoro governativo. Anthropic afferma che potrebbe modificarli per “contratti con determinati clienti governativi… se, a giudizio di Anthropic, le restrizioni contrattuali sull’uso e le garanzie applicabili sono adeguate per mitigare i potenziali danni”. Anthropic ha precedentemente stipulato contratti con l’esercito americano.
La policy aggiunge anche un nuovo requisito per qualsiasi implementazione di Claude “connessa a hardware che intraprende azioni fisiche autonome e che potrebbe essere in grado di causare lesioni”. In questi casi, un “operatore qualificato deve essere in grado di osservare l’attrezzatura e fermarla se necessario”, anche se non è chiaro se tale operatore debba essere una persona. L’aggiunta si adatta a uno spostamento più ampio tra le aziende di intelligenza artificiale verso la robotica e le versioni fisiche dei loro modelli.
Il provvedimento sulla crudeltà arriva dopo un anno in cui Anthropic ha più volte ventilato la possibilità che i suoi modelli potessero essere consapevoli. Kyle Fish, che guida la ricerca sul welfare modello dell’azienda, ha dichiarato a Verge a febbraio: “Le domande sulla potenziale esperienza interna, sulla coscienza, sullo stato morale e sul benessere sono questioni serie su cui stiamo indagando man mano che i modelli diventano più sofisticati e capaci”. Anche il CEO di Anthropic, Dario Amodei, è intervenuto sull’argomento a febbraio, intervenendo in un podcast.
Notizie Breitbart recentemente segnalato che Anthropic ha cercato di convincere i leader religiosi che Claude è un essere cosciente:
Per mesi, Anthropic ha ospitato in silenzio dozzine di studiosi religiosi da tutto il mondo in incontri privati, chiedendo loro di firmare accordi di divulgazione (NDA) prima di discutere le dimensioni morali e spirituali dell’intelligenza artificiale che l’azienda sta costruendo. L’iniziativa comprendeva sessioni del circolo della saggezza iniziate a marzo come seminari di due giorni, due incontri primaverili più grandi che includevano partecipanti cristiani e una sessione multireligiosa. Anthropic ha affermato che gli NDA legati a questi incontri sono stati revocati durante l’estate.
Christopher Olah, 34 anni, uno dei sette cofondatori di Anthropic, guida l’iniziativa. È anche a capo del team che studia il motivo per cui i modelli di intelligenza artificiale dell’azienda, incluso Claude, si comportano in un certo modo. Olah è cresciuto a Toronto nella cultura evangelica degli anni ’90 e da allora ha abbandonato il cristianesimo. Prima di Anthropic ha lavorato presso Google e OpenAI, dove ha sviluppato metodi per lo studio delle reti neurali artificiali. Dario Amodei, amministratore delegato di Anthropic, ha affermato che la società ha reso l’approccio di ricerca di Olah, in particolare sul linguaggio, centrale nel suo lavoro. La sorella di Amodei, Daniela Amodei, è la presidente dell’azienda.
Lo rivela il direttore dei social media di Breitbart News, Wynton Hall, nel suo bestseller del New York Times Codice Rosso: La Sinistra, la Destra, la Cina e la corsa al controllo dell’IA che il culto dell’intelligenza artificiale come divinità letterale non è fantascienza. Sta già accadendo, con tanto di chiese registrate dall’IRS, preti robot e confessionali basati sull’intelligenza artificiale:
Ciò che è veramente in gioco, sostiene Hall, è l’argomento più antico della civiltà occidentale: la convinzione dell’umanesimo secolare secondo cui l’umanità è innatamente buona e perfettibile attraverso l’ingegneria, contrapposta alla convinzione giudaico-cristiana nella natura umana decaduta che richiede la redenzione divina, non miglioramenti tecnologici. “L’intelligenza artificiale è difettosa allo stesso modo in cui lo è l’uomo naturale”, dice Hall citando il pastore e teologo John Piper. “Non può elevarsi più in alto del cuore naturale, caduto e non rigenerato dell’uomo”. Il reverendo Billy Graham concorda: “Il vero problema, vedete, non sono i computer o il codice che qualcuno escogita per controllarli. Il nostro vero problema è dentro di noi, nei nostri cuori e nelle nostre menti… Ecco perché il nostro più grande bisogno è che i nostri cuori siano cambiati, e questo è qualcosa che solo Dio può fare”.
Il movimento transumanista, che Hall esplora a lungo CODICE ROSSO porta la logica ancora più in là. In un famoso numero di Foreign Policy del 2004 sul tema delle “idee più pericolose del mondo”, il politologo Francis Fukuyama ha individuato il transumanesimo come la minaccia principale, avvertendo che il suo progresso incrementale lo fa apparire “decisamente ragionevole” finché non iniziamo a rosicchiare “le allettanti offerte della biotecnologia senza renderci conto che hanno un costo morale spaventoso”. L’ex stratega della campagna di Trump, Stephen K. Bannon, lo ha definito uno “tsunami tecnologico immorale e senza Dio che dichiara apertamente la sua intenzione di trasformare gli esseri umani in uno stato “postumano”.
Leggi di più su il Verge qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni relative all’intelligenza artificiale, alla libertà di parola e alla censura online.
