Um porta-voz da Comissão Europeia disse que estava "a analisar muito seriamente" a criação de imagens sexualmente explícitas de raparigas — incluindo menores — pelo Grok, o modelo de IA integrado no X.
A Comissão Europeia anunciou que está a investigar casos de imagens sexualmente sugestivas e explícitas de jovens raparigas geradas pelo Grok, o chatbot de IA integrado na plataforma de redes sociais X, após a introdução, no verão passado, de uma funcionalidade paga, conhecida como "Spicy Mode".
"Posso confirmar, a partir desta tribuna, que a Comissão também está a analisar seriamente este assunto", disse um porta-voz da Comissão aos jornalistas em Bruxelas, na segunda-feira. "Isto não é 'picante'. Isto é ilegal. Isto é terrível. Isto é nojento. Isto não tem lugar na Europa".
No domingo, em resposta à crescente indignação e alarme com as imagens, a plataforma de comunicação social disse que as imagens tinham sido removidas da plataforma e que os utilizadores envolvidos tinham sido banidos.
"Tomamos medidas contra o conteúdo ilegal no X, incluindo material de abuso sexual de crianças (CSAM), removendo-o, suspendendo permanentemente as contas e trabalhando com os governos locais e as autoridades policiais, conforme necessário", publicou a conta X Safety.
Foram abertas investigações semelhantes em França, na Malásia e na Índia.
A Comissão Europeia também fez referência a um episódio ocorrido em novembro passado, em que a Grok gerou conteúdos de negação do Holocausto. A Comissão afirmou ter enviado um pedido de informações ao abrigo da Lei dos Serviços Digitais da UE (DSA) e que está agora a analisar a resposta.
Em dezembro, a rede social de Elon Musk, a X, foi multada em 120 milhões de euros ao abrigo da DSA devido à forma como geria as marcas de verificação das contas e a sua política de publicidade.
"Penso que a X está bem ciente de que levamos muito a sério a aplicação da DSA. Não se esquecerão da coima que lhes aplicámos", afirmou o porta-voz da Comissão Europeia.