Papa Leone XIV ha convocato lunedì una regolamentazione solida dell’intelligenza artificiale e per i suoi sviluppatori lavorare per il bene comune piuttosto che per il profitto, pubblicando un ampio manifesto sulla salvaguardia dell’umanità poiché la tecnologia ha un impatto su tutto, dal lavoro alla guerra.
“Magnifica Humanitas” (Magnifica Umanità), la prima enciclica di Leone, è stata attesa con impazienza da quando il primo papa nato negli Stati Uniti ha annunciato, pochi giorni dopo la sua elezione, che considerava l’intelligenza artificiale la più grande sfida che l’umanità deve affrontare oggi.
Nel testo, Leo ha denunciato la “cultura del potere” che guida la corsa all’intelligenza artificiale, soprattutto nello sviluppo di metodi sempre più sofisticati di guerra a distanza. Ha dichiarato che “non è ammissibile” affidare decisioni irreversibili e letali ai sistemi di intelligenza artificiale, creando un altro punto critico tra il papa americano e l’amministrazione Trump, che ha lavorato in modo aggressivo per deregolamentare lo sviluppo dell’intelligenza artificiale.
Esperti del settore tecnologico, del mondo accademico e della moralità cattolica hanno affermato che il documento diventerà probabilmente un punto di riferimento nel dibattito sull’intelligenza artificiale, un punto di riferimento per politici, ricercatori e gente comune. Ciò avviene mentre gli sviluppi quasi quotidiani della tecnologia fanno aumentare le preoccupazioni sulla possibilità che l’intelligenza artificiale possa sostituire i posti di lavoro umani e persino l’intelligenza umana.
“Si presta a persone che sono all’avanguardia nell’uso di questi strumenti e che sono in grado di vedere le cose incredibili che sono in grado di fare, di avere domande su ‘Cosa significa essere umani?'” ha affermato Taylor Black, dirigente dell’intelligenza artificiale di Microsoft e direttore dell’istituto di intelligenza artificiale della Catholic University of America.
Pope denuncia le società di intelligenza artificiale anche mentre ospita Anthropic
Il Papa ha presentato il testo lunedì durante una presentazione in Vaticano alla quale ha partecipato il co-fondatore di Anthropic, attualmente impegnato in una battaglia legale con l’amministrazione Trump per l’accesso alla sua tecnologia di intelligenza artificiale. Lo ha deciso il Vaticano coinvolgere Anthropic come parte del suo impegno decennale per coinvolgere la Silicon Valley nel dialogo sul costo umano dell’IA.
Eppure, nel suo testo, Leo ha ripetutamente denunciato la concentrazione del potere e dei dati nelle mani di così poche persone nel settore privato, definendola un pericolo, soprattutto per i bambini e i più vulnerabili, e ha chiesto una regolamentazione esterna del loro lavoro.
“Non è sufficiente invocare l’etica in astratto; sono necessari quadri giuridici solidi, supervisione indipendente, utenti informati e un sistema politico che non abdichi alle proprie responsabilità”, ha scritto. “Un’intelligenza artificiale più morale non è sufficiente se la moralità è determinata da pochi”.
Leo ha fatto appello più volte agli sviluppatori di intelligenza artificiale e ai leader politici responsabili regolandoli semplicemente per rallentare e riflettere su ciò che stanno facendo. Li ha esortati a utilizzare linee guida etiche e spirituali per scegliere di lavorare non per il proprio profitto o potere, ma per il miglioramento dell’umanità.
AI concorrenti OpenAI e Anthropic sono la seconda e la terza società privata statunitense per valore, ciascuna valutata centinaia di miliardi di dollari, più del PIL di molte nazioni.
Il co-fondatore di Anthropic Christopher Olah ha accolto con favore le critiche e le preoccupazioni di Leoaffermando che tali controlli esterni sull’intelligenza artificiale e sui ricercatori dietro di essa sono fondamentali affinché la tecnologia “va bene” per l’umanità poiché c’è così tanto in gioco – “una possibilità reale che l’intelligenza artificiale sostituisca il lavoro umano su scala molto ampia”.
“Abbiamo bisogno che più persone nel mondo – comunità religiose, società civile, studiosi, governi – facciano ciò che Sua Santità ha fatto qui: prendere la situazione sul serio, guardare da vicino e spingere gli eventi in una direzione migliore”, ha detto Olah. “Abbiamo bisogno di critici informati che dicano ai laboratori quando stiamo fallendo. Abbiamo bisogno di voci morali che gli incentivi non possano piegare”.
Gli esperti dicono che il testo diventerà un punto di riferimento
In un testo metodico, il papa matematico ha tracciato la storia della dottrina sociale della Chiesa cattolica e ne ha applicato i concetti fondamentali – giustizia, solidarietà, dignità del lavoro e destinazione universale delle risorse – alla rivoluzione digitale.
“Sono convinto che questo si rivelerà un documento determinante per la nostra epoca, un documento profondo e profetico”, ha affermato Paolo Carozza, professore di diritto alla Notre Dame Law School e presidente del comitato di vigilanza di Meta.
“Papa Leone offre una voce chiara, esaustiva e coerente che ci esorta ad assumerci la responsabilità di costruire un mondo in cui la tecnologia sarà al servizio degli esseri umani anziché degradarli”, ha affermato.
Nei suoi capitoli più forti, Leo ha denunciato come l’intelligenza artificiale abbia contribuito ad accelerare la “normalizzazione della guerra” desensibilizzando le persone a suo costo. Non ha nominato conflitti specifici, ma ha citato “gli imperialismi opposti, tra le potenze che desiderano preservare la loro supremazia e quelle che aspirano a impadronirsi di quella supremazia”.
Ha chiesto trasparenza e responsabilità da parte degli sviluppatori di IA in modo che la catena di comando decisionale nell’ordinare attacchi con armi IA sia sempre nota. Ha dichiarato che la teoria della “guerra giusta” della Chiesa cattolica, che fornisce criteri specifici per quando la forza può essere giustificata, è ormai “obsoleta” visti i progressi tecnologici della guerra.
Un testo nella tradizione della giustizia sociale della Chiesa
Leone firmò il testo il 15 maggio, 135° anniversario della pubblicazione della “Rerum Novarum” (Di cose nuove), il più importante documento didattico dell’eroe e omonimo di Leone, Papa Leone XIII. Quel documento affrontava i diritti dei lavoratori, i limiti del capitalismo e gli obblighi che gli stati e i datori di lavoro avevano nei confronti dei lavoratori mentre la rivoluzione industriale era in corso.
È diventata il fondamento del pensiero sociale cattolico moderno e l’attuale papa l’ha citata all’inizio del suo pontificato in relazione alla rivoluzione dell’intelligenza artificiale, che a suo avviso pone le stesse domande esistenziali poste dalla rivoluzione industriale oltre un secolo fa. La “Magnifica Humanitas” diventa così l’ultimo capitolo di una storia secolare di papi che adattano la “Rerum Novarum” alle questioni sociali del loro tempo, soffermandosi spesso sulla dignità del lavoro per la prosperità umana.
L’intelligenza artificiale sta evocando sia paure esistenziali che una visione utopica nel mezzo di un dibattito sempre più intenso su se diventerà un catalizzatore che arricchisce l’umanità o una tossina tecnologica che offusca l’intelligenza umana spazzando via milioni di posti di lavoro ben retribuiti.
“Il perseguimento di maggiori profitti non può giustificare scelte che sacrificano sistematicamente posti di lavoro, perché la persona umana è un fine, non un mezzo, e l’ordine economico deve rimanere subordinato alla dignità umana e al bene comune”, ha scritto Leo.
Leone estese la sua preoccupazione per la difesa della dignità umana nel lavoro rilasciando le prime scuse papali per il ruolo proprio della Santa Sede nel legittimare la schiavitù dando ai sovrani europei l’autorità esplicita di soggiogare e schiavizzare gli “infedeli”.
Un dialogo decennale con la Silicon Valley
I funzionari vaticani hanno rifiutato di dire chi ha contribuito esattamente all’enciclica di Leone. Ma i funzionari del Vaticano e della Chiesa sono impegnati in un dialogo con le aziende tecnologiche della Silicon Valley da un decennio. Verso la fine del suo pontificato, Papa Francesco ha iniziato a parlare di più dell’intelligenza artificiale e dei rischi che comporta per l’umanità.
La decisione di includere Anthropic al lancio del Vaticano è stata criticata da alcuni che la consideravano un segno di approvazione papale nei confronti dell’azienda di intelligenza artificiale.
A febbraio, l’amministrazione Trump ha ordinato a tutte le agenzie statunitensi di smettere di utilizzare la tecnologia di Anthropic dopo che quest’ultima si era rifiutata di consentirne l’uso illimitato da parte delle forze armate statunitensi. Anthropic, che si presenta come la società di intelligenza artificiale che mette la sicurezza e la mitigazione dei rischi in prima linea nella sua ricerca, sta attualmente facendo causa all’amministrazione.
Brian Boyd, referente religioso statunitense per l’organizzazione no-profit Future of Life Institute, ha letto l’inclusione del co-fondatore di Anthropic, Olah, come simile a un’udienza papale con un capo di stato: non un’approvazione.
“Penso che sia più come un riconoscimento di (come) questa è un’azienda estremamente potente che attualmente sta vincendo questa corsa per sostituire i lavoratori umani”, ha detto Boyd.
Anthropic è una “enorme società che si sta assumendo un rischio e una responsabilità enormi”, ha continuato Boyd, ma ha affermato che la società ha “dimostrato genuina buona volontà, integrità e interesse per il dialogo”.
