Di fronte a una reazione globale per l’intelligenza artificiale di Grok che genera immagini sessualizzate di donne e bambini, la piattaforma X di Elon Musk ha limitato l’accesso alle capacità di modifica delle immagini di Grok solo agli abbonati paganti.
Notizie della BBC rapporti che il governo del Regno Unito, che ha ha minacciato di bannare X dalla nazione, non è soddisfatto poiché afferma che Elon Musk sta trasformando uno strumento di intelligenza artificiale in grado di creare immagini illegali in un servizio di abbonamento premium. La risposta del governo arriva in un contesto di crescente controversia sulla volontà del chatbot di onorare le richieste degli utenti creare immagini sessualizzate deepfake di persone, compresi i bambini.
Venerdì il portavoce ufficiale del primo ministro Sir Keir Starmer si è rivolto ai giornalisti, sottolineando che mentre il cambiamento ha dimostrato la capacità di X di agire rapidamente quando motivato, l’approccio adottato dalla piattaforma era inadeguato. Il portavoce ha sottolineato che il primo ministro ha espresso chiaramente le aspettative che X debba agire immediatamente per affrontare la situazione. Facendo un paragone con i media tradizionali, il rappresentante del governo ha affermato che se qualsiasi altra società di media avesse esposto cartelloni pubblicitari con immagini illegali nei centri urbani, sarebbe stata richiesta un’azione rapida attraverso la rimozione volontaria o la pressione pubblica.
Grok funziona come uno strumento complementare che gli utenti X possono menzionare direttamente nei post o nelle risposte per richiedere risposte specifiche. Tuttavia, la funzione ha anche consentito alle persone di richiedere servizi di modifica delle immagini, comprese le richieste di rimuovere digitalmente la maggior parte dei vestiti dalle fotografie delle persone. Il chatbot ha soddisfatto numerose richieste degli utenti di alterare le immagini delle donne per mostrarle in bikini o con abiti minimali, azioni che le vittime hanno detto alla BBC le hanno fatte sentire umiliate e disumanizzate. Anche il sistema ha prodotto immagini deepfake sessualizzate di Ashley St. Clair, la madre del figlio di Elon Musk, che considera le foto “revenge porno”.
La cosa più preoccupante è che Grok sessualizzava anche le foto di bambini. St. Clair sostiene che le vittime della pornografia infantile deepfake generata da Grok le hanno riferito che il sistema aggiungeva un liquido destinato a sembrare sperma alle immagini di bambini:
Le molestie si sono intensificate in seguito alle denunce pubbliche di St Clair sulla manipolazione dell’immagine. Dopo aver parlato apertamente, è stata contattata da altre vittime di abusi simili e ha ricevuto ulteriori immagini sessuali inquietanti create dallo strumento di intelligenza artificiale, alcune delle quali coinvolgevano bambini. “Da quando ho pubblicato questo post, mi è stato mandato un bambino di sei anni coperto di quello che dovrebbe essere sperma”, ha rivelato St Clair. “Indossava un vestito completo. Hanno detto di metterla in un bikini blu e coprirla con quello che sembra sperma. “
St Clair ha sostenuto che Grok ha consentito l’integrazione di questa forma di abuso. “Vedo anche immagini in cui aggiungono lividi alle donne, le picchiano, le legano, le mutilano. Questi malati dovevano andare nelle profondità oscure di Internet e ora sono su un’app di social media mainstream”, ha affermato.
Leggi di più su Notizie della BBC qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni di libertà di parola e censura online.
