Non ero al CES e, a dire il vero, non stavo prestando molta attenzione allo spettacolo.
Ma anch’io ho visto Il progetto Ava di Razor e la tempesta che ne seguì. Ho visto le opinioni ed i commenti e sono d’accordo con alcuni di essi.
Provo un’immediata repulsione per la valle misteriosa, ho l’idea che siano un po’ strani. Sono un po’ rabbrividiti. Non fanno al 100% per me.
Ma solo perché non sono per me non significa che non siano per nessuno.
Alcune persone apprezzeranno davvero il Progetto Ava e molte persone utilizzano compagni di intelligenza artificiale per eliminare quel prurito sociale.
Ma questo solleva solo un problema più grande per me, e sento che è uno di cui la gente non parla.
I compagni IA dovrebbero poter esistere
So che sono relativamente poche le persone che effettivamente sottolineano questo punto, ma vale la pena sottolineare esattamente il motivo per cui dovrebbe essere consentita l’esistenza dei compagni di intelligenza artificiale.
Alla fine, ci sono persone che trarrebbero beneficio dall’averli in giro. Ci sono persone sole che faticano a farsi degli amici.
Forse soffrono di ansia e la natura senza volto dell’intelligenza artificiale e la mancanza di pressione aiuta ad facilitarli nell’esperienza.
Forse sono semplicemente finiti da qualche parte nella loro vita in cui sono soli senza colpa.
Qualunque sia la ragione, una “persona” basata sull’intelligenza artificiale può aiutare a colmare questo divario.
Puoi sostenere che non è “reale”, ma direi che è reale se aiuta. Gli istinti del branco umano sono forti.
Mio robot aspirapolvere si chiama Esther perché si blocca spesso e ci tormenta per questo. Lei è Ester la Pester.
Non è viva, non ha sentimenti e lo so. Ma questo non mi impedisce di augurarle il buongiorno e di darle una carezza.
Perché lo faccio? Perché, ad un certo livello, mi fa sentire meglio farlo.
Mi dà un senso di connessione e mi piace, anche se vivo con altre persone con cui mi connetto ogni giorno. Queste connessioni hanno valore.
Ecco perché è così tragico che possano essere portati via così.
I tuoi amici IA possono essere portati via in un attimo
I tuoi amici IA non sono reali, anche se le emozioni che provi nei loro confronti lo sono. Sono creazioni effimere, uno sbuffo di fumo, un semplice sussurro nel vento.
Sono fragili e possono essere portati via in un attimo, senza che tu lo sappia o senza preavviso.
Se un CEO decide che la sua azienda potrebbe risparmiare denaro chiudendo il tuo compagno di intelligenza artificiale, puoi star certo che lo farà. E il tuo amico e compagno se ne andrà, forse per sempre.
Lo abbiamo visto accadere più e più volte con una serie di servizi, dai videogiochi agli impianti di riscaldamento.
Se sono disposti a farlo trasformare i termostati delle persone in mattonipuoi star certo che succederà anche al tuo piccolo amico AI. Purtroppo è solo questione di tempo.
E se non vengono chiusi, puoi comunque essere certo che siano state applicate le patch, il che comporta i suoi problemi.
Ricordateli tutti persone che hanno perso i loro “mariti AI”.” quando ChatGPT-4 è stato aggiornato a ChatGPT-5? Le persone hanno notato che il software sottostante era diverso e se ne sono accorti con difficoltà.
Il punto qui è che il tuo compagno AI può cambiare da un giorno all’altro, o addirittura essere spento, senza che tu possa fare nulla al riguardo.
Se questi prodotti vengono venduti come prodotti associati, non sembra che ciò dovrebbe essere consentito.
Se questi devono essere veramente venduti come compagni, è necessario che ci sia protezione
Non sembra giusto che le aziende debbano essere gli arbitri ultimi delle tue amicizie.
Le aziende, nonostante ciò che dice la legge statunitense, non sono persone e non pensano come persone.
Una persona impiegata per dare una mano a casa tua può scegliere di dare una mano un po’ più a lungo di quanto richiesto dal suo lavoro. Diamine, potrebbero diventare amici e venirti a trovare anche dopo la cessazione del lavoro.
Le aziende non lo fanno e, lasciato a loro, nemmeno i tuoi amici dell’intelligenza artificiale lo faranno. Nel momento in cui un compagno basato sull’intelligenza artificiale non ha più senso dal punto di vista economico, non c’è più.
Puoi sostenere che le persone non dovrebbero fare affidamento sui compagni di intelligenza artificiale, e forse hai ragione. Ma il mondo non è così semplice e le vite sono disordinate.
A volte le persone hanno bisogno di stampelle, fisiche o emotive, e non dovremmo giudicare le persone che si sono trovate in quella posizione.
L’hosting autonomo di un modello di intelligenza artificiale può aiutare a risolvere questo problema, ma per la maggior parte delle persone si tratta di una soluzione piuttosto tecnica.
In definitiva, credo che dovrebbero esserci dei modi per proteggere questi compagni dalla semplice rimozione. E forse il futuro troverà delle soluzioni.
Ma in questo momento, mi preoccupa il fatto che lo siamo consentendo all’IA di scatenarsi semplicemente attraverso la vita delle persone con poche restrizioni.
L’intelligenza artificiale deve agire con cautela quando si tratta della vita delle persone e, al momento, non vedo alcuna indicazione che ciò accadrà.
