La eSafety Commission ha scritto a X, che piattaforma Grok, chiedendo una spiegazione su come sta rispettando i suoi obblighi e prevenendo gli abusi dopo aver ricevuto un aumento di segnalazioni di immagini generate a sfondo sessuale e di sfruttamento di persone reali.
Musk ha detto di non essere a conoscenza della creazione di quelle immagini, ma che la piattaforma rispetterà le leggi del Paese.
“Quando gli viene chiesto di generare immagini, si rifiuterà di produrre qualcosa di illegale, poiché il principio operativo di Grok è obbedire alle leggi di qualsiasi paese o stato,” ha detto.
“Potrebbero esserci momenti in cui l’hacking avversaria dei prompt di Grok fa qualcosa di inaspettato.
“Se ciò accade, risolviamo immediatamente il bug.”
Musk ha aggiunto che Grok è autorizzato a generare nudità della parte superiore del corpo di adulti immaginari quando la funzione NSFW è abilitata, che secondo lui era lo standard in America.
“Ciò varierà in altre regioni a seconda delle leggi paese per paese”, ha affermato.
Dopo che è stata generata un’ondata di immagini sessualizzate e di sfruttamento di donne e bambini reali, i governi e le autorità di regolamentazione di tutto il mondo hanno chiesto alla piattaforma di Musk di fare di più per combattere i contenuti offensivi.
La eSafety Commission non ha confermato se ha ricevuto una risposta da X.
Ma le piattaforme sono tenute a soddisfare gli obblighi di sicurezza previsti dai codici e dagli standard del settore, che includono il rilevamento e la rimozione di materiale di sfruttamento sessuale minorile e altro materiale illegale.
La eSafety Commission, all’inizio di questo mese, ha dichiarato che utilizzerà i suoi poteri, compresi gli avvisi di rimozione, per rimuovere materiale illegale.
“eSafety rimane preoccupata per l’uso del sistema di intelligenza artificiale generativa Grok on X per generare contenuti che potrebbero sessualizzare o sfruttare le persone, in particolare i bambini”, ha affermato il watchdog online.
