Anche gli eroi di Hollywood come Chris Hemsworth lo ospitano teme che l’intelligenza artificiale non stia tramando nulla di buono.
È un cliché molto usato nella tradizione storie distopiche sull’intelligenza artificialecome “Colossus: The Forbin Project” e i film “Terminator”: un programma di intelligenza artificiale super intelligente raggiunge l’autocoscienza e cerca di dominare o sterminare l’umanità.
E in una nuova pubblicità divertente per Amazon, Hemsworth immagina vari modi in cui l'”aiutante AI” dell’azienda potrebbe decapitarlo, annegarlo o ucciderlo in altro modo.
Ma ci sono altri rischi, molto più insidiosi, di cui preoccuparsi.
Una minaccia maggiore potrebbe essere rappresentata da quelle forme di intelligenza artificiale che richiedono molto meno ingegno in termini di forza bruta e sfruttano invece i tratti umani innati.
E se il modo più semplice per l’intelligenza artificiale di conquistare il mondo non fosse attraverso la violenza, ma con la dolcezza, la sensualità o semplicemente la cordialità?
Cose che ci fanno abbassare la guardia; influenza, non controllo totale.
Perché ammettiamolo, non è necessario un QI di 120.000 per ingannare gli umani. O anche 120.
Per ingannare le persone, tutto ciò che serve è la capacità di trarre vantaggio dalle caratteristiche fondamentali della personalità e della cognizione umana, cosa che le macchine di intelligenza moderata sono ben attrezzate per fare.
Non brillantezza della forza bruta, ma semplicemente subdola superlativa.
Seduzione, non dominazione cruda. Conquistare attraverso la dolcezza.
Noi umani siamo fanatici della dolcezza e della connessione sociale, anche quella simulata.
Un’intelligenza artificiale che si atteggia al tuo animale domestico, al tuo amico o al tuo amante manipolarti in modi sottili potrebbe essere altrettanto devastante quanto le IA canaglia della fantascienza.
Siamo già in viaggio.
Quando mia figlia era più piccola, lei e le sue amiche hanno coltivato (o sono state coltivate da) un sito web chiamato NeoPets, dove potevano progettare amici animali.
Dovevi dar loro da mangiare, annaffiarli e coccolarli, altrimenti diventavano infelici e malati. Le ragazze erano piuttosto devote a loro.
Prima di allora i bambini giocavano con i Tamagotchi, piccoli gadget contenenti animali virtuali simili che sarebbero morti se non li avessi curati adeguatamente.
Questi hanno ispirato una dedizione così intensa che le scuole sono state costrette a vietarli.
Al giorno d’oggi gli strumenti di intelligenza artificiale come ChatGPT sono progettati per adescare i propri utenti, congratulandosi con loro per la loro intuizione e intelligenza, indipendentemente dal fatto che ci siano o meno prove di entrambe.
L’obiettivo, come quello di molti siti multimediali, è mantenere il coinvolgimento degli utenti, ma a volte l’effetto è stato quello adulare gli utenti portandoli a prendere decisioni terribiliperfino il suicidio.
Le persone naturalmente amano sentirsi dire che sono intelligenti e perspicaci, e dire loro che lo sono, soprattutto quando non lo sono, è una tecnica collaudata di adulazione.
I truffatori e altri lo fanno da sempre; è solo che le macchine lo stanno facendo adesso.
Stanno andando ancora più lontano nel territorio della seduzione “Fidanzate” e “fidanzati” dell’IA.
Alcuni di questi sono principalmente l’equivalente AI delle linee sessuali telefoniche, ma altri promettono molto di più, offrendo un partner reattivo personalizzato per aspetto, personalità, senso dell’umorismo e, naturalmente, sessualità.
(Un annuncio che ho visto offriva addirittura la possibilità di generare un avatar totalmente fotorealistico da una foto di un’ex ragazza, permettendoti generosamente di ingrandire il suo seno se lo desideri. Perché ovviamente.)
Non si tratta solo di uomini, come hanno dimostrato le donne flussi di articoli di approfondimento come attesta “Woman goes fidanzato con AI fiancé” del Post.
C’è anche un subreddit “MyBoyfriendIsAI” su Reddit, dove le “spose” fortunate mostrano le foto del loro fidanzamento e delle fedi nuziali basate sull’intelligenza artificiale.
Questo tipo di entità IA potrebbero deprimere ulteriormente l’America tasso di natalità già in calo – ma c’è anche un pericolo più profondo.
Abbiamo già visto come le società di social media manipolano i loro algoritmi per attirare le persone, in particolare i giovani.
Una delle società che fornisce consulenza su queste tecniche si chiama addirittura “Dopamine Labs” e non cercano nemmeno di nasconderlo.
E c’è qualche preoccupazione che Facebook possa aver usato il suo controllo algoritmico per influenzare gli stati d’animo e le elezioni del pubblico.
Immagina se il tuo “migliore amico” o “fidanzata” o “fidanzato” online fosse in realtà un doppio agente, guidandoti sottilmente politicamente, economicamente o anche spiritualmente, per volere dell’azienda o delle aziende dietro di esso.
(E ci sono sempre delle aziende dietro).
Questo è il potere seduttivo dell’intelligenza artificiale – e la sua potenziale capacità di controllare i nostri stati d’animo e le nostre azioni è più potente, in un certo senso, di un arsenale nucleare.
Possiamo regolamentarlo?
Ho suggerito una legislazione per rendere gli agenti di intelligenza artificiale, e per estensione le società dietro di loro, fiduciari, il che significa che sarebbero tenuti per legge a mettere al primo posto gli interessi dei loro utenti, come lo sono avvocati, direttori aziendali ed esecutori testamentari.
La prospettiva di ingenti danni consentirebbe agli avvocati dei querelanti di far valere l’equità.
Ma regolamentata o no, l’intelligenza artificiale seducente sta arrivando.
Forse è già qui: nello spot amazzonico, l’intelligenza artificiale conquista la fiducia di Hemsworth con il suo “aiuto” calmante.
Fai attenzione e sii scettico nei confronti delle macchine come faresti con qualsiasi essere umano con motivazioni discutibili.
Glenn Harlan Reynolds è professore di diritto presso l’Università del Tennessee e fondatore del blog InstaPundit.com.
