Papa Leone oggi ha messo in guardia su alcuni AI le armi sono “al di là di ogni portata umana” da controllare, mentre presenta il suo tanto atteso manifesto sulla tecnologia in rapido sviluppo.
“Mi sono giunte anche altre voci molto preoccupanti riguardo a sistemi d’arma sempre più autonomi, praticamente al di là di qualsiasi portata umana per governarli in modo efficace”, ha detto.
Il primo papa americano ha messo in guardia contro “una corsa ad algoritmi sempre più potenti e set di dati più grandi, guidata dal desiderio di assicurarsi il dominio geopolitico o commerciale”.
Leo ha affermato che la Chiesa cattolica desidera collaborare con gli sviluppatori di intelligenza artificiale per discutere l’uso corretto della tecnologia e che gli esseri umani dovrebbero mantenere i controlli chiave dei sistemi di intelligenza artificiale.
Ha presentato di persona in Vaticano l’enciclica ‘Magnifica Humanitas’ (Magnifica Umanità), insieme ad esperti di intelligenza artificiale tra cui Christopher Olah, co-fondatore del colosso statunitense Anthropic.
Anthropic è coinvolta in una battaglia legale con l’esercito americano dopo essersi opposta all’uso della sua tecnologia per la guerra autonoma letale e la sorveglianza di massa.
Durante la presentazione, Olah ha affermato che le società di intelligenza artificiale operano “all’interno di una serie di incentivi e vincoli che a volte possono entrare in conflitto con il fare la cosa giusta”.
Ha accolto con favore il contributo di attori esterni come la Chiesa cattolica, per “spingere gli eventi in una direzione migliore”, affermando che “le questioni sollevate dall’intelligenza artificiale sono più grandi della comunità di ricerca sull’intelligenza artificiale”.
Papa Leone XIV parla con il cofondatore della società statunitense di intelligenza artificiale (AI) Anthropic, Christopher Olah (a destra) e con il professore di pensiero e pratica sociale cattolica presso l’Università di Durham
Lettera Enciclica di Papa Leone XIV ‘Magnifica Humanitas’, incentrata sullo sviluppo dell’intelligenza artificiale
Nell’enciclica, Leo ha anche lanciato l’allarme sugli armamenti diretti dall’intelligenza artificiale, affermando che “non è consentito affidare decisioni letali” alla tecnologia.
Leo si è ripetutamente scontrato con la Casa Bianca per la guerra in Iran e per l’uso della religione per giustificare il conflitto.
La teoria della “guerra giusta” – recentemente sposata dall’amministrazione Trump – è “obsoleta”, ha scritto Leo, aggiungendo che “nessun algoritmo può rendere la guerra moralmente accettabile”.
Secondo le Nazioni Unite, l’intelligenza artificiale potrebbe valere fino a 3,56 trilioni di sterline entro il 2033, un aumento di 25 volte in un decennio, concentrando i suoi profitti nelle mani di pochi limitati.
“Disarmare l’intelligenza artificiale significa liberarla dalla mentalità della competizione ‘armata’”, ha scritto il papa.
“Disarmare non significa rifiutare la tecnologia, ma impedire che essa domini l’umanità”, ha aggiunto Leo.
L’intelligenza artificiale dovrebbe essere “a misura d’uomo”, accessibile a tutti e aperta alla discussione e al dibattito, ha affermato.
Il capo degli 1,4 miliardi di cattolici del mondo ha reso la questione scottante una pietra angolare del suo pontificato dedicandovi la sua prima enciclica, un documento che pone le basi per l’insegnamento della Chiesa e il dibattito a lungo termine.
Il manifesto fa riferimento a una serie di giganti della cultura, dal filosofo greco Platone a Beethoven e alla sua Nona Sinfonia, citando persino un personaggio de “Il Signore degli Anelli” di JRR Tolkien.
Il 15 maggio è stata firmata la ‘Magnifica Humanitas’, 135° anniversario dell’enciclica di Leone XIII del 1891, che gettò le basi della dottrina sociale della Chiesa durante la Rivoluzione Industriale.
Leo ha messo in guardia dalle nuove forme di schiavitù che alimentano la rivoluzione tecnologica, sottolineando che “niente nel mondo dell’intelligenza artificiale è immateriale o magico”.
“Ogni risposta apparentemente immediata e impeccabile… si basa sul lavoro silenzioso di milioni di persone”, dai moderatori di contenuti costretti a guardare materiale inquietante, ai bambini che estraggono gli elementi delle terre rare da cui dipende l’intelligenza artificiale.
Sono “sfregiati, feriti e logorati in modo che il flusso computazionale possa continuare ininterrottamente”, ha scritto.
Una maggiore efficienza o innovazione non giustificano “una catena di sfruttamento che rimane deliberatamente nascosta”, ha scritto, mentre occorre fare di più per ridurre l’impatto ambientale dell’IA e “proteggere la nostra casa comune”.
Ha anche rilasciato scuse senza precedenti per il ruolo del Vaticano nella tratta degli schiavi e nel contribuire a giustificare la schiavitù, affermando che si trattava di “una ferita nella memoria cristiana”.
«Di questo, a nome della Chiesa, chiedo sinceramente perdono», scrive Leo.
La pubblicazione del testo fa seguito a diversi anni di studio da parte della Chiesa sulle tecnologie legate all’intelligenza artificiale.
Già nel 2020 la Santa Sede aveva lanciato l’Appello di Roma per un’etica dell’IA, in cui chiedeva che le nuove tecnologie rispettassero la dignità umana.
Gli esperti affermano che la “Magnifica Humanitas” potrebbe rivelarsi influente quanto la “Laudato Si” di Papa Francesco, un manifesto sul clima del 2015 che ha innescato reazioni politiche e civiche in tutto il mondo.
