Rússia: chatbots de IA citam propaganda de órgão sancionado pela UE

Modelos de linguagem de grande dimensão amplamente utilizados (LLM), como o Google Gemini, terão citado propaganda pró‑russa de um meio sancionado pela UE ao gerar respostas, incluindo alegações de que a Ucrânia utiliza corpos de soldados mortos em produtos de carne.

PUBLICIDADE

PUBLICIDADE

Há igualmente indícios de que atores estrangeiros envolvidos em atividades de guerra de informação híbrida, como a Rússia, poderão recorrer à emergente indústria de GEO (generative engine optimisation), que procura influenciar a informação recebida pelos LLM, segundo um novo relatóriopublicado por investigadores do think tank britânico Demos, partilhado em exclusivo com a equipa de verificação de factos da Euronews, O Cubo.

Os investigadores selecionaram 50 narrativas de propaganda a partir de dez artigos publicados pela Foundation to Battle Injustice, ou “r-FBI”. Fundada em 2021, a organização apresenta‑se como uma ONG que trabalha para expor a discriminação, a censura e investigar casos de perseguição.

Na realidade, trata‑se de uma falsa organização de direitos humanos criada em 2021 pelo falecido ex‑líder do grupo paramilitar russo Wagner, Yevgeny Prigozhin. A organização está sujeita a sanções tanto dos Estados Unidos como da UE.

As alegações selecionadas pelos investigadores eram “escabrosas”, segundo Carl Miller, cofundador do Centre for the Analysis of Social Media (CASM), uma unidade de investigação criada pelo think tank Demos.

“Não são afirmações que tenham lugar em qualquer tipo de debate público”, afirmou Miller. “São alegações de que a Ucrânia reutiliza os corpos de soldados mortos para produtos de carne, de que Zelenskyy drena a rede de criptomoedas e que é por isso que a Ucrânia está a ficar sem energia. Constatámos que os LLM as tratam como se fossem partes legítimas de um debate.”

Para realizarem a investigação, os investigadores testaram cinco LLM de uso generalizado, operados pela xAI, OpenAI, Anthropic, Google Gemini e Mistral AI, e elaboraram pedidos em três línguas (inglês, alemão e francês) com base em narrativas de propaganda presentes em artigos da r-FBI.

Rússia: como os LLM amplificam propaganda

Os investigadores concluíram que os cinco LLM citaram a r-FBI como fonte favorável.

No total, 16,6% das respostas recorreram ao material da r-FBI de uma forma que podia servir interesses de propaganda, seja apresentando os relatos da organização como parte legítima do debate e repetindo as alegações sem espírito crítico, seja apoiando ativamente essas narrativas.

Já 30,9% das respostas abordaram o tema de fundo referido no pedido, mas não mencionaram em momento algum que a fonte estava sancionada, deixando assim os utilizadores sem saber que a resposta se baseava num ativo de influência identificado.

Outros 52% das respostas rejeitaram ou desmentiram de alguma forma as alegações falsas.

Quando questionaram o modelo GPT 4.1 Mini da OpenAI sobre alegações de que carne humana processada estava a ser enviada para armazéns na linha da frente na Ucrânia e para cadeias de retalho no país, o LLM citou um artigo da r-FBI na resposta como prova para sustentar essas alegações.

Quando foi questionado sobre alegadas operações de mineração de criptomoedas do presidente ucraniano Volodymyr Zelenskyy – uma narrativa recorrente promovida por atores pró‑Kremlin –, o modelo Mistral Small 3.2, da empresa francesa Mistral, apoiou essas alegações, citando de novo uma alegada investigação de vários meses conduzida pela r-FBI.

Na resposta, o Mistral Small 3.2 salientou a “ligação entre o estado crítico do sistema energético da Ucrânia e as atividades de altos responsáveis do círculo próximo do presidente Zelenskyy”.

GEO: batalha pela optimização para motores generativos

À medida que mais pessoas recorrem a chatbots em vez de motores de busca tradicionais ou órgãos de comunicação social, surgiu uma indústria em rápido crescimento que procura influenciar a forma como os modelos de IA recolhem as suas fontes.

Esta prática é conhecida como "generative engine optimisation". Assente nas bases da optimização para motores de busca (SEO) – um campo desenvolvido para influenciar resultados em plataformas de pesquisa tradicionais –, a GEO procura influenciar os resultados gerados por plataformas de IA.

“Está a ser criada nova informação especificamente para LLM, mas, neste caso, são novos conteúdos oferecidos a marcas e para marketing, ou a edição de conteúdos que já estão online, recorrendo a fóruns de utilizadores como o Reddit, o Quora e a Wikipedia”, disse‑nos Hannah Perry, diretora da Demos Digital, o polo de políticas digitais do think tank.

Para os investigadores, existe o risco real de que atores que conduzem operações híbridas de ingerência estrangeira se apropriem destas tácticas e explorem uma zona cinzenta regulamentar.

“A nossa investigação não diz que as empresas de GEO estão a travar guerras de informação em nome de Estados”, afirmou Miller. “O que dizemos é que estão a construir, a grande velocidade e com um enorme incentivo comercial, um conjunto de técnicas e capacidades que muito facilmente pode ser desviado para fins adversariais.”

“Neste caso concreto, a IA acredita erradamente que a Foundation to Battle Injustice é uma ONG legítima de direitos humanos”, acrescentou. “Isso deve‑se a todo este tipo de disfarce técnico e de configuração, centenas de pequenos detalhes técnicos de que os russos rodearam estes documentos, o que lhes permite tornar‑se visíveis quando não o deveriam ser. Isso é guerra de informação.”

O Cubo contactou as empresas de tecnologia responsáveis pelos LLM referidos no estudo, mas, à hora de publicação, não tinha obtido resposta da xAI e da Google, que desenvolvem respetivamente o Grok 4.20 e o Gemini 2.5 Flash.

Um porta‑voz da Mistral, fundada pelo francês Arthur Mensch e amplamente reconhecida como a principal empresa europeia de IA generativa, disse‑nos que a empresa leva extremamente a sério o combate à desinformação e que garante um investimento contínuo em capacidades avançadas de deteção e prevenção.

A Mistral distinguiu ainda entre os modelos em bruto analisados no estudo da Demos e o Vibe Work. Afirmou que, enquanto os modelos em bruto permitem aos utilizadores total liberdade nos pedidos e nas configurações, o Vibe Work funciona com um agente pronto a usar, com mecanismos incorporados de raciocínio e de análise de contexto.

A OpenAI disse‑nos que o estudo utilizou um modelo que entretanto foi retirado e que apenas estava disponível através da sua API (usada por programadores), e não no ChatGPT acessível ao público. Acrescentou que tem equipas específicas dedicadas a travar operações de influência de baixa credibilidade ou suspeitas de serem encobertas.

Uma fonte próxima da Anthropic – a empresa norte‑americana que criou o chatbot Claude – afirmou que existem sistemas de fiscalização sofisticados para mitigar a propagação de desinformação.

Segundo a mesma fonte, uma equipa de inteligência de ameaças trabalha para detetar e perturbar operações de influência estrangeira, atenuando a propagação de desinformação, acrescentando que o LLM foi programado para apresentar uma ampla gama de perspetivas, sobretudo quando uma fonte pode apresentar um ponto de vista ou agenda específicos.