L’autore di un libro di saggistica che esamina l’impatto dell’intelligenza artificiale sulla verità ha riconosciuto che il suo lavoro contiene numerose citazioni inventate o attribuite erroneamente create dall’intelligenza artificiale.
IL New York Times rapporti che Steven Rosenbaum, autore di Il futuro della verità ha ammesso questa settimana che il suo libro include molteplici citazioni false o attribuite erroneamente generate dall’intelligenza artificiale. L’ammissione è arrivata dopo Volte ha identificato le citazioni false e ha contattato Rosenbaum per un commento durante il fine settimana.
In una dichiarazione rilasciata lunedì sera, Rosenbaum ha riconosciuto che il libro conteneva “una manciata di citazioni erroneamente attribuite o sintetiche” e ha affermato di aver avviato la propria indagine sulla questione. Ha definito accidentale l’inclusione di citazioni errate e ha affermato di non avere “alcuna intenzione di inventare alcun punto di vista” durante il processo di scrittura.
“Come ho rivelato nei ringraziamenti del libro, ho utilizzato gli strumenti di intelligenza artificiale ChatGPT e Claude durante il processo di ricerca, scrittura e modifica”, ha affermato Rosenbaum nella dichiarazione. “Ciò non scusa questi errori, di cui mi assumo la piena responsabilità. Sto ora lavorando con gli editori per rivedere attentamente e correggere rapidamente eventuali passaggi interessati; eventuali edizioni future saranno corrette.”
Il libro è stato pubblicato da BenBella Books e distribuito da Simon and Schuster. BenBella Books, che opera indipendentemente da Simon e Schuster, non ha risposto alle richieste di commento, mentre Simon e Schuster hanno rifiutato di commentare.
Rosenbaum è il direttore esecutivo del Sustainable Media Center, un’organizzazione no-profit impegnata a dare a “una nuova generazione di consumatori di media” e creatori “la proprietà delle loro vite sempre più incentrate sui media”, secondo la sua dichiarazione di intenti. Il centro ha riunito leader dei media e della tecnologia per incontri di persona e interviste online, e Rosenbaum è considerato un noto convener nel settore dei media.
Il futuro della verità ha ricevuto un’attenzione significativa sin dalla sua uscita, incluso un estratto pubblicato in Cablato rivista. Il libro presenta il sostegno promozionale di giornalisti tra cui l’estrema sinistra Taylor Lorenz, Michael Wolff e Nicholas Thompson, amministratore delegato della atlantico. Maria Ressa, giornalista vincitrice del Premio Nobel per la pace nota per il suo sguardo attento sull’ex presidente delle Filippine Rodrigo Duterte, ha scritto la prefazione.
IL Volte La revisione ha identificato diverse citazioni false sparse nel libro. Una citazione attribuita all’eminente giornalista tecnologica Kara Swisher afferma: “Il modello linguistico dell’intelligenza artificiale più sofisticato è come uno specchio. Riflette la nostra moralità, raffinata e articolata, ma alla fine vuota dietro la superficie. Non è vincolato dalle leggi di Asimov o da qualsiasi quadro etico: è vincolato dai modelli nei suoi dati di addestramento e dagli obiettivi stabiliti dai suoi creatori. “
Alla domanda sulla citazione, Swisher ha detto in un messaggio di testo che “non l’ha mai detto”, aggiungendo che la citazione sembrava essere stata fabbricata da AI piuttosto che dallo stesso Rosenbaum. “Secondo ChatGPT mi sembra anche di avere un bastone nel sedere”, ha detto Swisher.
Un altro capitolo che discute degli effetti dei social media e dei video inventati sugli adolescenti attribuisce due citazioni Come nascono le emozioni: la vita segreta del cervello di Lisa Feldman Barrett, professoressa di psicologia alla Northeastern University. Una presunta citazione recita: “Le emozioni non sono solo reazioni alla verità: sono il modo in cui costruiamo la verità. Quando i giovani dicono che qualcosa ‘sembra vero’, stanno descrivendo un sofisticato processo di creazione di significato che integra segnali emotivi e sociali”.
Barrett ha detto al Volte in un’e-mail che le virgolette “non compaiono nel libro e sono anche sbagliate”. Ha spiegato: “Non direi mai che ‘le emozioni non sono solo reazioni alla verità’, non sono reazioni e la ‘verità’ nella scienza è un concetto complicato che tendo a evitare. Inoltre, non direi mai che ‘segnali emotivi e sociali’ sono integrati: non ci sono segnali emotivi o sociali, di per sé. Ci sono segnali, e il cervello crea il loro significato come emotivo o sociale.”
Alcune parti del libro contengono citazioni autentiche attribuite in modo improprio. Un capitolo cita Non intelligenza artificialeun libro di Meredith Broussard, professoressa della New York University. Sebbene la citazione sia autentica, non è apparsa nel libro ma è stata invece pronunciata da Broussard durante un’intervista del 2023 con “Marketplace Tech”, un programma radiofonico quotidiano. “Sembra che si tratti di un’allucinazione dell’intelligenza artificiale o di una citazione attribuita erroneamente”, ha detto Broussard.
In una dichiarazione, Rosenbaum ha suggerito che le citazioni false potrebbero servire da ammonimento. “Se l’episodio serve da avvertimento sui rischi della ricerca e della verifica assistite dall’intelligenza artificiale, è per questo che ho scritto il libro”, ha detto. “Questi errori dell’intelligenza artificiale, infatti, non diminuiscono le domande più ampie che il libro solleva sulla verità, la fiducia e l’intelligenza artificiale e il suo impatto sulla società, sulla democrazia e sull’editoria”.
Un libro sulla verità nell’era dell’intelligenza artificiale contiene citazioni false, che evidenziano i pericoli dell’intelligenza artificiale quando gli utenti umani non prestano attenzione all’applicazione di questa potente tecnologia emergente. Il direttore dei social media di Breitbart News, Wynton Hall, ha scritto il suo bestseller istantaneo Codice Rosso: La Sinistra, la Destra, la Cina e la corsa al controllo dell’IA servire come guida definitiva su come il movimento MAGA può creare posizioni sull’intelligenza artificiale a beneficio dell’umanità senza cedere il controllo della nostra nazione alla sinistra della Silicon Valley o permettere ai cinesi di conquistare il mondo.
Leggi di più su IL New York Times Qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni relative all’intelligenza artificiale, alla libertà di parola e alla censura online.
