A investigação formal sobre o X surge após os protestos sobre o facto de a plataforma não ter conseguido impedir a criação de imagens sexualmente explícitas de pessoas reais, incluindo crianças.
A Comissão Europeia lançou uma investigação formal ao Grok, o chatbot da X, depois de a função de edição de imagens da sua ferramenta de IA integrada ter sido amplamente utilizada para despir virtualmente fotografias de mulheres reais e raparigas menores sem o seu consentimento.
PUBLICIDADE
PUBLICIDADE
Conforme noticiado pela primeira vez pelo Handelsblatt, a investigação irá analisar se a plataforma de redes sociais fez o suficiente para mitigar o risco de criação e divulgação das imagens.
Se se verificar que a X violou as regras da UE relativas às plataformas em linha ao abrigo da Lei dos Serviços Digitais (DSA), a Comissão poderá multar a empresa até 6% do seu volume de negócios anual global.
Em dezembro passado, a Comissão Europeia multou a rede social de Elon Musk em 120 milhões de euros devido às suas práticas de verificação de contas e de publicidade.
As preocupações surgiram no verão passado, depois de a ferramenta de IA incorporada na plataforma, Grok, ter sido melhorada com uma funcionalidade paga conhecida como "Modo Picante", que permitia aos utilizadores incitá-la a criar conteúdos explícitos.
Elon Musk gozou com os protestos que se seguiram numa publicação na sua conta X.
No início deste mês, à medida que a indignação mundial com a funcionalidade aumentava, um porta-voz da Comissão condenou esta funcionalidade nos termos mais fortes.
"Isto não é 'picante'", afirmou. "Isto é ilegal. Isto é terrível. É nojento. Isto não tem lugar na Europa".
Em resposta à raiva e ao alarme do público, o X acabou por implementar medidas para impedir que o Grok permitisse a edição de imagens de pessoas reais para as colocar em roupas reveladoras e situações sexuais - com restrições aplicáveis a todos os utilizadores, incluindo os assinantes pagos.
O X também afirmou que as imagens sexualizadas de crianças alteradas pelo Grok tinham sido removidas da plataforma e que os utilizadores envolvidos na sua criação tinham sido banidos.
"Tomamos medidas contra conteúdos ilegais no X, incluindo material de abuso sexual de crianças (CSAM), removendo-os, suspendendo permanentemente as contas e trabalhando com os governos locais e as autoridades policiais, conforme necessário", publicou a conta X Safety.
Esta não é a primeira vez que o Grok está sob escrutínio por suspeita de violação da lei europeia. Em novembro passado, o chatbot de IA gerou conteúdo de negação do Holocausto.
As investigações sobre o chatbot da plataforma estão atualmente em curso em França, no Reino Unido e na Alemanha, bem como na Austrália. O Grok foi totalmente proibido na Indonésia e na Malásia.
A Comissão afirmou ter enviado um pedido de informações ao abrigo do DSA e que ainda está a analisar a resposta.