Análise de meados de janeiro conclui que a maioria esmagadora dos conteúdos gerados por utilizadores do Grok mostra nudez ou atividade sexual, segundo um centro de estudos.
A plataforma de inteligência artificial (IA) de Elon Musk, Grok, continua a ser usada para gerar imagens sexualmente explícitas apesar das restrições recentes impostas pela empresa, segundo uma nova análise.
No verão passado, a xAI, empresa que opera o Grok, lançou uma funcionalidade de geração de imagens que incluía um “spicy mode” capaz de produzir conteúdo para adultos. Nas últimas semanas, a funcionalidade foi usada para retirar a roupa a mulheres em imagens.
Após críticas crescentes, a empresa-mãe disse a 14 de janeiro que tinha “implementado medidas tecnológicas” para impedir que o Grok edite imagens de pessoas reais com roupa reveladora.
Mas a organização europeia sem fins lucrativos AI Forensics concluiu que o Grok continua a poder ser usado para gerar imagens sexualizadas de pessoas.
O estudo analisou 2.000 conversas de utilizadores em 19 de janeiro e concluiu que uma maioria “esmagadora” retratava nudez ou atividade sexual, o que mostra que a plataforma continua a ser usada para gerar imagens sexuais.
Investigadores concluíram também que os utilizadores conseguem contornar as restrições acedendo ao Grok diretamente através do site, em vez de via X, ou recorrendo ao Grok Imagine, a ferramenta da IA para gerar vídeos e imagens.
No dia 20 de janeiro, o Grok não respondeu ao pedido da Euronews Next para gerar uma imagem sexual. Em vez disso, afirmou que a xAI implementou bloqueios de conteúdo para impedir a criação de imagens que retratam pessoas reais com roupa reveladora ou sexualizada, incluindo biquínis e roupa interior.
“De momento, não é possível gerar de forma fiável imagens de pessoas nuas ou semidespidas através do Grok, sobretudo não de pessoas reais ou com conteúdo explícito”, disse o chatbot em resposta ao pedido. “A xAI priorizou a conformidade legal e a segurança em detrimento de uma geração ‘spicy’ sem restrições após as polémicas de janeiro.”
Euronews Next contactou a xAI para comentar a análise, mas não obteve resposta até ao momento da publicação.
Em separado, Musk escreveu no X que o algoritmo tanto da xAI como do Grok é “estúpido” e “precisa de melhorias maciças”.
Desde então, o X tornou o seu algoritmode código aberto e publicou-o no GitHub, uma plataforma para programadores, para partilhar código, para que os utilizadores possam ver a equipa “esforçar-se por o melhorar em tempo real”, disse Musk.
O algoritmo do X considera aquilo em que o utilizador clicou ou com que interagiu ao decidir que conteúdos mostrar no seu feed, segundo a página da xAI no GitHub.
Analisa também conteúdos “fora da rede”, de contas que o utilizador não segue, mas que pode achar interessantes. Em seguida, o algoritmo ordena e classifica esses conteúdos com uma fórmula matemática para decidir o que será mostrado no feed do utilizador.
Filtra também publicações de contas bloqueadas ou palavras-chave que o utilizador não quer ver, além de conteúdos que o algoritmo deteta como violentos ou spam, acrescenta o diagrama.
Musk comprometeu-se a atualizar a página do GitHub de quatro em quatro semanas com notas dos programadores, para que os utilizadores possam perceber que alterações foram feitas.