Il film americano del 2014 Transcendence segue la storia di uno scienziato morente che carica la sua mente su un supercomputer e diventa un’intelligenza quasi onnipotente. Un anno dopo, Ex Machina ha raccontato la storia di un robot umanoide che supera in astuzia i suoi manipolatori umani e fugge nel resto del mondo.
Entrambi questi film, come molti altri del regno della fantascienza, si riferivano alla cosiddetta “singolarità”, un momento nel tempo in cui la tecnologia, in particolare l’intelligenza artificiale, supera l’intelligenza umana e diventa sempre più difficile da controllare.
Sabato, il capo di OpenAI Sam Altmann ha dichiarato che questo momento è arrivato. L’intelligenza artificiale ha raggiunto “la singolarità”, ha detto. Sebbene Altman abbia sottolineato che la singolarità può essere positiva per il mondo, il suo commento ha suscitato preoccupazione.
Ecco uno sguardo più da vicino a ciò che ha detto Altman e se ciò significa una maggiore automazione o il rischio di un disastro catastrofico imminente.
Cos’è la singolarità?
La singolarità si riferisce a un ipotetico momento futuro in cui una tecnologia come l’intelligenza artificiale supererà l’intelligenza umana e diventerà capace di potenziarsi autonomamente. Si teorizza che questo sia il punto in cui diventerà difficile per gli esseri umani controllarlo o invertirlo e potrebbe avere effetti imprevedibili sulla civiltà umana.
La teoria propone che una volta che l’IA acquisisca il controllo del proprio sviluppo, i conseguenti progressi tecnologici potrebbero avvenire così rapidamente che gli esseri umani non sarebbero in grado di tenere il passo, lasciandola ad evolversi effettivamente da sola, al di fuori del controllo umano.
Poiché si tratta solo di una teoria, è difficile dire quali potrebbero essere gli effetti. Alcuni esperti avvertono che la singolarità sarebbe catastrofica per l’umanità, mentre altri sono più ottimisti, suggerendo che potrebbe essere benefica per la razza umana.
Finora la singolarità è rimasta contenuta nel regno della fantascienza. Uno degli esempi più famosi è la trilogia di Matrix (1999-2003), che immagina un tetro futuro post-singolarità in cui le macchine governano gli esseri umani. Un altro è il film Singularity del 2017, in cui un supercomputer originariamente costruito per porre fine alle guerre umane conclude che l’umanità è la vera minaccia e lancia un assalto apocalittico per spazzare via del tutto gli esseri umani.
Cosa ha detto Altman sulla singolarità?
Altman è l’amministratore delegato di OpenAI, il cui prodotto esclusivo ChatGPT domina il mercato dell’intelligenza artificiale consumer con oltre 900 milioni di utenti attivi settimanali e circa 50 milioni di abbonati.
L’anno scorso aveva previsto che l’intelligenza artificiale avrebbe superato l’intelligenza umana su tutta la linea entro il 2030.
Poi, durante un’apparizione al podcast Relentless – una serie di documentari “sulla ricerca di idee inverosimili e aspirazioni insolite” – sabato, Altman ha detto: “Siamo ora, come, nella singolarità”.
Ha chiarito che, in termini di progressi tecnologici, ci stiamo gradualmente spostando verso la singolarità e che questo cambiamento sarà positivo per il mondo.
Ha aggiunto: “Ora siamo effettivamente nel momento di cui parlavamo a tavola in modo molto poco serio.
“Lo stavo aspettando da tutta la vita e penso che sarà incredibile, estremamente positivo, fantastico per il mondo.”
Più avanti nell’episodio del podcast, Altman ha criticato altri leader dell’intelligenza artificiale per aver avvertito che l’intelligenza artificiale potrebbe essere pericolosa. Sebbene Altman non abbia nominato il concorrente di OpenAI Anthropic, il suo CEO Dario Amodei è noto per aver lanciato tali avvertimenti.
“Penso anche che alcune delle visioni alternative dipinte da altre società siano piuttosto terrificanti”, ha affermato Altman. “Mi assicurerò che ciò venga respinto e non sia ciò che accade.”
Il mese scorso, Anthropic, la società dietro il chatbot Claude, ha invitato le principali aziende di intelligenza artificiale del mondo a elaborare un modo coordinato per mettere in pausa lo sviluppo di sistemi di intelligenza artificiale avanzati, avvertendo che la tecnologia sta migliorando così rapidamente che esiste il rischio che gli esseri umani ne perdano il controllo.
In un post sul blog del 4 giugno, Anthropic, che da tempo si è posizionato come un laboratorio di intelligenza artificiale incentrato sulla sicurezza, ha scritto che man mano che l’intelligenza artificiale diventa più avanzata “sarebbe positivo per il mondo avere la possibilità di rallentare o mettere temporaneamente in pausa” il suo sviluppo.
Perché altri avvertono dei pericoli dell’intelligenza artificiale?
Il 23 luglio due membri del Congresso degli Stati Uniti hanno presentato il Legge sul kill switch dell’IAun disegno di legge bipartisan che richiederebbe agli sviluppatori di intelligenza artificiale del paese di integrare un “kill switch” nei loro programmi, consentendo agli esseri umani di rallentare, sospendere o arrestare modelli avanzati di intelligenza artificiale se mai rappresentassero un rischio catastrofico.
La legislazione è stata introdotta pochi giorni dopo che OpenAI ha rivelato quello che ha descritto come un “incidente informatico senza precedenti”, in cui due dei suoi modelli di intelligenza artificiale più avanzati sono sfuggiti a un ambiente di test e hanno violato la piattaforma di sviluppo AI Hugging Face durante una valutazione della sicurezza interna.
Il 13 luglio centinaia di esperti hanno firmato un accordo lettera apertaorganizzato dal laboratorio di economia digitale dell’Università di Stanford, chiedendo che i politici e i leader tecnologici “devono agire ora” per prepararsi all’impatto economico dell’intelligenza artificiale.
La lettera avverte che l’intelligenza artificiale potrebbe diventare molto più capace nel prossimo decennio, guidando una trasformazione “più grande della rivoluzione industriale, ma dispiegandosi in un arco di tempo molto più breve”.
“Potrebbe comportare rischi, tra cui lo spostamento di posti di lavoro su larga scala, nonché opportunità come importanti miglioramenti nel tenore di vita”, aggiunge la lettera.
A giugno, un team di ricercatori dell’Università di Toronto ha dimostrato che gli strumenti di intelligenza artificiale potrebbero essere utilizzati per creare un nuovo tipo di “worm” AI che adatta la sua strategia di hacking mentre si diffonde da dispositivo a dispositivo e prende il controllo di una vasta rete informatica.
“Penso che sia davvero importante che le persone capiscano che non sono solo i modelli linguistici più grandi e potenti a porre problemi di sicurezza”, ha detto in un’intervista il ricercatore capo Nicolas Papernot.
Negli ultimi anni, i ricercatori sull’intelligenza artificiale hanno sollecitato pause simili a quella recentemente suggerita da Anthropic. Tuttavia, non sono stati ascoltati.
Elon Musk, proprietario del laboratorio di intelligenza artificiale xAI, è stato tra i sostenitori di una spinta nel 2023 da parte dell’organizzazione no-profit Future of Life Institute per fermare lo sviluppo dell’intelligenza artificiale per sei mesi per avere il tempo di sviluppare barriere di sicurezza.
