O Grok, chatbot de IA da rede social X, detida por Elon Musk, enfrenta um escrutínio cada vez maior na UE, Reino Unido, Índia e França, por ser usado para gerar imagens sexualmente explícitas e não consensuais
A Malásia e a Indonésia bloquearam o Grok, o chatbot de Inteligência Artificial (IA) desenvolvido pelo X de Elon Musk, depois de as autoridades afirmarem que estava a ser utilizado para gerar imagens sexualmente explícitas e sem consentimento.
Os dois países asiáticos são os primeiros a proibir a ferramenta de IA generativa, refletindo uma preocupação global crescente com a capacidade de produzir imagens, som e texto realistas, enquanto as salvaguardas existentes falham em travar abusos.
O chatbot Grok, acessível através da rede social X de Musk, tem sido criticado por gerar imagens manipuladas, incluindo representações de mulheres de biquíni ou em poses sexualmente explícitas, bem como conteúdos envolvendo menores.
Os reguladores nos dois países do Sudeste Asiático disseram que os controlos existentes não estavam a impedir a criação e a disseminação de conteúdos pornográficos falsos, sobretudo envolvendo mulheres e menores. O governo da Indonésia bloqueou temporariamente o acesso ao Grok no sábado, seguido pela Malásia no domingo.
"O governo encara deepfakes sexuais não consensuais como uma violação grave dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital", afirmou em comunicado no sábado a ministra da Comunicação e dos Assuntos Digitais da Indonésia, Meutya Hafid.
Disse o ministério que a medida visava proteger mulheres, crianças e a comunidade em geral de conteúdos pornográficos falsos gerados com recurso a IA.
As conclusões iniciais apontaram falta de salvaguardas eficazes no Grok para impedir que utilizadores criem e distribuam conteúdo pornográfico com base em fotografias reais de residentes na Indonésia, afirmou Alexander Sabar, diretor-geral da supervisão do espaço digital, em comunicado separado. Acrescentou que tais práticas arriscam violar a privacidade e os direitos de imagem quando as fotografias são manipuladas ou partilhadas sem consentimento, causando prejuízos psicológicos, sociais e reputacionais.
Em Kuala Lumpur, a Comissão de Comunicações e Multimédia da Malásia ordenou no domingo uma restrição temporária ao Grok, após o que descreveu como "utilização indevida repetida" da ferramenta para gerar imagens obscenas, sexualmente explícitas e manipuladas sem consentimento, incluindo conteúdos envolvendo mulheres e menores.
Afirmou o regulador que os avisos enviados este mês à X Corp. e à xAI a exigir salvaguardas mais robustas mereceram respostas assentes sobretudo em mecanismos de denúncia pelos utilizadores.
"A restrição é imposta como medida preventiva e proporcional enquanto decorrem processos legais e regulatórios", indicou, acrescentando que o acesso permanecerá bloqueado até serem implementadas salvaguardas eficazes.
Lançado em 2023, o Grok é de utilização gratuita no X. Os utilizadores podem colocar-lhe perguntas na rede social e mencioná-lo em publicações da sua autoria ou em respostas a publicações de outros utilizadores. No verão passado, a empresa acrescentou uma funcionalidade de geração de imagens, o Grok Imagine, que incluía um chamado "modo spicy" (modo picante) capaz de gerar conteúdos para adultos.
As restrições no Sudeste Asiático surgem numa altura de crescente escrutínio ao Grok noutros locais, incluindo na União Europeia, nomeadamente em França, no Reino Unido e na Índia.
Na semana passada, o Grok limitou a geração e edição de imagens a utilizadores pagantes, após uma reação global contra deepfakes sexualizados de pessoas, mas os críticos dizem que a medida não resolveu totalmente o problema.