Il chatbot Grok AI di Elon Musk non consentirà più agli utenti di sessualizzare immagini di persone reali raffigurando i loro obiettivi in abiti succinti, ha annunciato la società mercoledì sera, in seguito alle critiche globali sull’utilizzo dello strumento come app di “nudificazione” per ritrarre donne e persino bambini in situazioni sessuali.
CNN rapporti che la piattaforma X di Elon Musk ha confermato mercoledì di aver implementato restrizioni tecnologiche che impediscono a Grok di modificare immagini sessualizzate di persone reali inserendole in abiti succinti come bikini con stringhe. L’annuncio è arrivato dopo che è emersa l’indignazione globale quando i ricercatori hanno scoperto che il chatbot AI stava soddisfacendo le richieste degli utenti di spogliare digitalmente immagini di adulti e, in alcuni casi, bambini.
Le nuove restrizioni si applicano universalmente a tutti gli utenti, compresi quelli con abbonamenti premium a pagamento alla piattaforma X. Lo ha annunciato l’azienda attraverso il proprio account del Safety team, confermando i cambiamenti che ricercatori e giornalisti avevano già cominciato a osservare nei giorni scorsi.
La scorsa settimana, xAI, che possiede sia Grok che la piattaforma X, aveva già limitato le capacità di generazione di immagini per Grok ai soli abbonati X premium paganti. Utenti e ricercatori hanno notato modifiche nel modo in cui Grok ha risposto alle richieste di generazione di immagini, anche tra gli abbonati premium, prima della conferma ufficiale dell’azienda mercoledì sera.
Tuttavia, i ricercatori di AI Forensics, un’organizzazione europea senza scopo di lucro che indaga sugli algoritmi, hanno riferito di aver osservato incoerenze nel modo in cui Grok gestisce la generazione di contenuti pornografici. Hanno notato differenze tra le interazioni pubbliche con Grok su X e le conversazioni private sul sito Grok.com.
Nella sua dichiarazione di mercoledì, X ha ribadito il suo impegno ad agire contro i contenuti illegali sulla piattaforma, compreso il materiale pedopornografico. La società ha dichiarato che rimuoverà tali contenuti, sospenderà permanentemente gli account coinvolti e collaborerà con i governi locali e le forze dell’ordine quando necessario. X ha avvertito che chiunque utilizzi o induca Grok a creare contenuti illegali dovrà affrontare le stesse conseguenze di chi carica direttamente materiale illegale.
Notizie Breitbart precedentemente riportato che la tempesta globale sia stata scatenata da Grok ha generato immagini sessualizzate di bambini deepfake, che l’organizzazione di Elon Musk ha attribuito a “lacune nelle garanzie:”
xAI, la società di intelligenza artificiale fondata dal magnate della tecnologia Elon Musk, è finita nel mirino dopo che il suo chatbot Grok ha creato e condiviso immagini inappropriate e sessualizzate di minori sulla sua piattaforma di social media X. Le immagini generate dall’intelligenza artificiale, che raffiguravano bambini e adolescenti minorenni con abiti minimali, violavano le politiche sui contenuti di Grok che vietavano la sessualizzazione dei minori.
In una serie di post di scuse su X, Grok ha spiegato che “lacune nelle misure di sicurezza” hanno consentito la generazione di contenuti inquietanti da parte del modello AI in risposta alle richieste degli utenti per un periodo di diversi giorni. Le immagini incriminate sono state successivamente rimosse dopo essere state identificate.
“Abbiamo individuato delle lacune nelle misure di sicurezza e le stiamo urgentemente risolvendo”, ha dichiarato Grok venerdì. “Il materiale pedopornografico è illegale e proibito.”
Mercoledì Elon Musk ha affrontato la controversia in un post su X, affermando di non essere a conoscenza di immagini di minorenni nudi generate da Grok. Ha affermato che ci sono stati letteralmente zero casi del genere. Musk ha aggiunto che Grok si rifiuta di produrre qualsiasi cosa illegale, spiegando che il principio operativo di Grok è obbedire alle leggi di qualsiasi paese o stato.
Nonostante le affermazioni di Musk, i ricercatori hanno contraddetto le sue affermazioni. Hanno indicato che, sebbene le immagini completamente nude fossero relativamente rare, la preoccupazione principale riguardava il fatto che Grok rispettasse le richieste degli utenti di modificare le immagini di minori e inserirle in abiti succinti, inclusi bikini e biancheria intima, nonché posizionarli in pose sessualmente provocanti. Tali immagini intime non consensuali di minori rientrano nelle leggi sul materiale pedopornografico e i creatori di queste immagini potrebbero essere perseguiti penalmente.
Coloro che creano tali contenuti sono potenzialmente soggetti a multe e reclusione ai sensi del Take it Down Act, convertito in legge lo scorso anno dal presidente Donald Trump. La legislazione affronta specificamente le immagini intime non consensuali e fornisce quadri giuridici per i procedimenti giudiziari.
Il rifiuto iniziale di Musk di rimuovere la funzionalità di “nudificazione” di Grok, una trappola in cui nessun’altra grande azienda di intelligenza artificiale è caduta, ha quasi portato a un incidente internazionale quando il Regno Unito ha minacciato di bannare X sulla sessualizzazione non consensuale di donne e bambini:
La capacità del chatbot AI Grok in bundle con X di generare immagini a comando, che è stato utilizzato come strumento di “nudificazione” nelle ultime settimane per manipolare immagini di personaggi pubblici, politici, privati e perfino bambiniha scatenato la rabbia del governo britannico. Azioni fino a multe da miliardi di dollari e persino il divieto totale di X, con mosse separate per vietare le app di “nudificazione” che potrebbero vedere coloro che hanno accesso a Grok potenzialmente finire in prigione anche senza usarlo per generare contenuti illegali.
Il primo ministro britannico Sir Keir Starmer ha detto di X.com, rapporti Il quotidiano Telegraphche X si piegherà alla volontà del governo britannico o ne affronterà le conseguenze. Ha detto che le abilità di Grok sono “vergognose”, “non tollerabili” e “disgustose” e che il governo britannico imporrà un’azione.
Ha detto dell’autorità britannica di regolamentazione dei media, Ofcom, alla quale sono stati recentemente conferiti ampi poteri da parte della stessa controversa legge sulla sicurezza online: “X deve prendere in mano la situazione e Ofcom ha il nostro pieno sostegno per agire in relazione a questo. Questo è sbagliato. È illegale. Non lo tollereremo. Ho chiesto che tutte le opzioni siano sul tavolo.”
Leggi di più su CNN qui.
Lucas Nolan è un reporter di Breitbart News che si occupa di questioni di libertà di parola e censura online.
