Secondo un recente studio condotto da ricercatori del MIT e dell’Università del Queensland, esperti internazionali stimano una probabilità del 20% che i sistemi di intelligenza artificiale possano acquisire capacità di armi pericolose o infliggere danni di massa provocando milioni di morti nei prossimi cinque anni.
Axios rapporti che un sondaggio completo di esperti globali ha rivelato preoccupazioni significative sui rischi catastrofici dell’intelligenza artificiale che potrebbero materializzarsi da qui al 2030. La ricerca, condotta dal MIT IT FutureTech e dall’Università del Queensland in Australia, ha raccolto le valutazioni di 272 esperti internazionali che hanno valutato due dozzine di diversi rischi legati all’intelligenza artificiale in base alla loro probabilità e potenziale gravità.
I risultati dipingono un quadro che fa riflettere sui potenziali pericoli associati al rapido progresso della tecnologia dell’intelligenza artificiale. Secondo il gruppo di esperti, 18 dei 24 rischi dell’IA esaminati comportano almeno il 10% di probabilità che si verifichino esiti catastrofici entro i prossimi cinque anni. Tuttavia, sono emersi cinque rischi specifici con probabilità notevolmente più elevate di causare danni gravi.
Ai fini dello studio, i ricercatori hanno definito un esito catastrofico come un evento che provocherebbe più di un milione di morti umane, supererebbe i 100 miliardi di dollari in perdite finanziarie o produrrebbe impatti immateriali su scala di civiltà. Utilizzando questi criteri, gli esperti hanno identificato le minacce più urgenti che la società deve affrontare man mano che i sistemi di intelligenza artificiale diventano sempre più sofisticati e diffusi.
1) L’intelligenza artificiale che attacca gli esseri umani
Il rischio più alto, con una probabilità del 21,5%, riguarda i sistemi di intelligenza artificiale che possiedono capacità pericolose che potrebbero potenzialmente causare danni di massa. Queste capacità includono la capacità di commettere inganni, sviluppare armi, commettere reati informatici e operare in modi disallineati con i valori umani e i protocolli di sicurezza. Questa categoria rappresenta la preoccupazione che gli stessi sistemi di intelligenza artificiale possano diventare strumenti di distruzione o operare in modi imprevedibili e dannosi.
2) Sviluppo di armi di distruzione di massa
Subito dopo, con una probabilità del 21%, c’è il rischio che l’intelligenza artificiale venga utilizzata deliberatamente per scopi dannosi. Ciò include l’impiego dell’intelligenza artificiale per sviluppare armi come agenti chimici o biologici, commettere sofisticati attacchi informatici contro infrastrutture critiche o creare armi di distruzione di massa compresi esplosivi nucleari. Questa categoria si concentra sull’uso intenzionale della tecnologia dell’intelligenza artificiale da parte di attori umani.
3) Centralizzazione del potere
Il terzo rischio principale, valutato con una probabilità del 18%, riguarda la centralizzazione del potere e la distribuzione ingiusta dei benefici dell’IA. Gli esperti temono che limitare gli individui o i gruppi che possono accedere e trarre vantaggio dalla tecnologia dell’intelligenza artificiale potrebbe creare o esacerbare le disuguaglianze sociali, portando potenzialmente a significativi conflitti e instabilità sociali.
4) La corsa all’intelligenza artificiale tra aziende e paesi
Le dinamiche competitive nel settore dell’intelligenza artificiale rappresentano il quarto rischio critico, con una probabilità del 16,6% di esiti catastrofici. La corsa tra aziende e nazioni per rilasciare i modelli di intelligenza artificiale più avanzati potrebbe portare all’implementazione di sistemi non adeguatamente testati e soggetti a errori prima che vengano implementate adeguate misure di sicurezza. Questa corsa al mercato potrebbe sacrificare la sicurezza a favore del vantaggio competitivo.
5) La morte della verità
Il quinto rischio significativo, con una probabilità del 12,8%, riguarda la creazione e la diffusione di informazioni false o fuorvianti. La disinformazione o gli errori generati dall’intelligenza artificiale potrebbero portare a convinzioni diffuse e inesatte tra la popolazione, inducendo gli esseri umani a prendere decisioni sbagliate basate su informazioni false. Ciò potrebbe avere effetti a cascata su tutta la società, dalle elezioni alle risposte in materia di sanità pubblica.
Notizie Breitbart riportato la settimana scorsa un modello OpenAI si è ribellato, sfondando i guardrail in un attacco autodiretto alla piattaforma di intelligenza artificiale Hugging Face. Un esempio inquietante di molti dei rischi identificati dagli esperti.
Gli esperti continuano a riflettere sulle conseguenze nel mondo reale dello sviluppo sfrenato dell’IA. Il direttore dei social media di Breitbart News, Wynton Hall, ha scritto il suo bestseller istantaneo Codice Rosso: La Sinistra, la Destra, la Cina e la corsa al controllo dell’IA servire come guida definitiva su come il movimento MAGA può creare posizioni sull’intelligenza artificiale a beneficio dell’umanità senza cedere il controllo della nostra nazione alla sinistra della Silicon Valley o permettere ai cinesi di conquistare il mondo.
Leggi di più su Axios qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni relative all’intelligenza artificiale, alla libertà di parola e alla censura online.
