Chatbot enfrenta críticas nas últimas duas semanas por gerar deepfakes sexualmente explícitos de mulheres e menores
Grok, o chatbot de IA de Elon Musk, impede a maioria dos utilizadores de gerar ou editar imagens após uma onda global de críticas que eclodiu quando começou a difundir deepfakes sexualizados, sobretudo de mulheres.
Disponível através da rede social X, de Musk, o chatbot tem vindo, nas últimas semanas, a atender uma vaga de pedidos que, segundo investigadores, são maliciosos, para alterar imagens, incluindo colocar mulheres de biquíni ou em posições sexualmente explícitas.
Investigadores alertaram que, em alguns casos, certas imagens pareciam retratar crianças.
Governos em todo o mundo condenaram a plataforma e abriram investigações.
Na sexta-feira, o Grok respondia a pedidos de alteração de imagens com a mensagem: “A geração e a edição de imagens estão atualmente limitadas a subscritores pagantes. Pode subscrever para desbloquear estas funcionalidades.”
Embora os números de subscritores do Grok não sejam públicos, registou-se uma diminuição evidente no número de deepfakes explícitos que o Grok agora gera face a dias anteriores.
Entre as respostas oficiais, a União Europeia censurou o Grok por “ilegal” e “chocante”, enquanto responsáveis em França, Índia e Malásia e um deputado brasileiro pediram investigações.
Na quinta-feira, o primeiro-ministro britânico, Keir Starmer, ameaçou medidas não especificadas contra a rede social X.
“Isto é vergonhoso. É repugnante. E não é tolerável”, disse Starmer na rádio Greatest Hits. “A X tem de pôr cobro a isto.”
Disse que o regulador dos media, Ofcom, “tem o nosso total apoio para agir” e que “todas as opções” estão em cima da mesa.
“É repugnante. A X tem de se organizar e retirar este material. Vamos agir sobre isto, porque simplesmente não é tolerável.”
Ofcom e o regulador britânico da privacidade disseram esta semana que contactaram a X e a empresa de inteligência artificial de Musk, xAI, para obter informação sobre as medidas adotadas para cumprir a regulamentação britânica.
Disponível gratuitamente para utilizadores da X, o Grok permite colocar-lhe perguntas diretamente na rede social. Os utilizadores podem marcá-lo em publicações que criam ou em respostas a publicações de outros utilizadores.
Lançado em 2023, o Grok ganhou no último verão a funcionalidade de geração de imagens, Grok Imagine, que incluía um chamado “modo picante”, permitindo aos utilizadores gerar conteúdo para adultos.
Agravou-se o problema tanto porque Musk apresenta o seu chatbot como uma alternativa mais arrojada face a rivais com mais salvaguardas, como porque as imagens do Grok são publicamente visíveis e, por isso, podem espalhar-se facilmente pela internet.