A decisão foi tomada poucas horas depois de o multimilionário afirmar que não tinha conhecimento de quaisquer "imagens de menores nus" criadas pelo Grok.
O chatbot de inteligência artificial de Elon Musk, o Grok, não poderá editar fotografias para retratar pessoas reais com roupas reveladoras em locais onde isso é ilegal, de acordo com um comunicado publicado na sua rede social X.
PUBLICIDADE
PUBLICIDADE
O anúncio, feito na quarta-feira à noite, seguiu-se a uma reação global contra imagens sexualizadas de mulheres e crianças, incluindo proibições e advertências por parte de alguns governos. Surgiu também poucas horas depois de Musk afirmar que não tinha conhecimento de nenhuma "imagem de menores nus" criada pelo Grok.
A resposta, a nível doméstico, incluiu uma investigação anunciada na quarta-feira pelo estado da Califórnia sobre a proliferação de material sexualmente explícito não consensual produzido com recurso ao Grok.
Inicialmente, as perguntas dos jornalistas a propósito do problema apenas receberam a seguinte resposta: "os meios de comunicação social tradicionais mentem".
A empresa xAI, de Elon Musk, diz agora que irá bloquear geograficamente o conteúdo se este violar as leis de um determinado local.
"Implementámos medidas tecnológicas para impedir que a conta Grok permita a edição de imagens de pessoas reais em roupas reveladoras, como biquínis, roupa interior e outros trajes reveladores", afirmou.
A regra aplica-se a todos os utilizadores, incluindo assinantes pagos, que têm acesso a mais funcionalidades.
A empresa xAI também limitou a criação ou edição de imagens apenas a assinantes pagos, "para garantir que os indivíduos que tentam abusar da conta Grok para violar a lei ou as nossas políticas possam ser responsabilizados".
O "modo picante" do Grok permitia aos utilizadores criar conteúdo explícito, o que levou a uma reação negativa por parte de governos de todo o mundo.
A Malásia e a Indonésia tomaram medidas legais e bloquearam o acesso ao Grok. O Reino Unido e a União Europeia estavam a investigar possíveis violações das leis de segurança online. França e Índia também emitiram advertências, exigindo controlos mais rigorosos. O Brasil solicitou uma investigação sobre o uso indevido do Grok.
As funções de edição disponibilizadas pelo Grok estavam "a facilitar a produção em grande escala de imagens íntimas deepfake não consensuais que estão a ser usadas para assediar mulheres e raparigas na Internet, inclusive através da rede social X", segundo o anúncio do estado da Califórnia.
"A avalanche de relatos que detalhavam o material sexualmente explícito e não consensual que a xAI produziu e publicou online nas últimas semanas é chocante. Este material, que retrata mulheres e crianças em situações de nudez e sexualmente explícitas, tem sido usado para assediar pessoas na Internet", referiu o procurador-geral do estado, Rob Bonta.
"Temos tolerância zero para a criação e divulgação de imagens íntimas não consentidas ou de material de abuso sexual de crianças com base em IA", afirmou.