Autoridades dizem que o Grok estava a ser usado indevidamente para gerar imagens de IA sexualmente explícitas e sem consentimento.
As autoridades malaias anunciaram terça-feira que vão avançar com ação judicial contra o X, rede social de Elon Musk, e contra a sua unidade de inteligência artificial, a xAI, acusando as empresas de não garantirem a segurança dos utilizadores do chatbot Grok.
A medida surgiu poucos dias depois de a Malásia e a Indonésia se tornarem os primeiros países a bloquear o acesso ao Grok, à medida que cresce a preocupação com a sua alegada utilização para gerar imagens sexualmente explícitas e não consensuais.
A Comissão Malaia de Comunicações e Multimédia afirmou, em comunicado, que identificou a utilização indevida do Grok para gerar e distribuir conteúdos nocivos, incluindo conteúdo sexualmente explícito, indecente e extremamente ofensivo, bem como imagens manipuladas não consensuais.
Adiantou que notificou o X e a xAI este mês para removerem o conteúdo nocivo, mas não foi tomada qualquer medida.
“Conteúdo alegadamente envolvendo mulheres e crianças é motivo de grande preocupação. Tal conduta viola a lei malaia e põe em causa os compromissos de segurança” declarados pelas empresas, acrescentou. A comissão nomeou um advogado e afirmou que o processo judicial começará em breve.
Aumenta o escrutínio sobre ferramentas de IA generativa capazes de produzir imagens, som e texto realistas, e a preocupação de que as salvaguardas existentes não estejam a impedir abusos.
Lançado em 2023, o Grok é de utilização gratuita no X. Uma funcionalidade de geração de imagens, Grok Imagine, foi adicionada no ano passado e inclui um chamado modo spicy que pode produzir conteúdo para adultos. O Grok tem sido criticado por gerar imagens manipuladas, incluindo representações de mulheres em biquíni ou em poses sexualmente explícitas, bem como imagens envolvendo crianças.
O Grok tem enfrentado pressão na União Europeia, na Índia e no Reino Unido, que afirmou na segunda-feira estar a avançar para criminalizar as chamadas aplicações de nudificação. O regulador britânico dos media também abriu uma investigação para apurar se o Grok violou a lei ao permitir que os utilizadores partilhassem imagens sexualizadas de crianças.
Na semana passada, o Grok limitou a geração e edição de imagens a utilizadores pagantes após uma reação global às deepfakes sexualizadas de pessoas, mas críticos dizem que a medida não resolveu totalmente o problema.
Musk e as suas empresas não comentaram publicamente as restrições no Sudeste Asiático. O xAI tem enviado uma resposta automática a pedidos dos media, afirmando: “A comunicação social tradicional mente”.