Uma personagem de inteligência artificial criada para fins educativos foi transformada num meme político transfronteiriço que se está a espalhar por toda a Europa, em grande parte associado à extrema-direita e a narrativas enganosas.
Personagens quase idênticas geradas por IA apareceram no X e no Facebook por toda a Europa, promovendo mensagens anti-imigração e anti-governo.
PUBLICIDADE
PUBLICIDADE
Foram partilhadas online versões da mesma personagem, como a neerlandesa "Emma", a alemã "Maria" e a irlandesa "Amelia".
Cada personagem tem os seus próprios símbolos nacionais e referências políticas. Na Alemanha, Maria veste um dirndl tradicional da Baviera e expressa o seu amor por uma "cerveja gelada no pub da nossa aldeia". Afirma que o seu governo já não a protege e apela a "cavaleiros corajosos" para defenderem a sua terra natal dos imigrantes muçulmanos.
Nos Países Baixos, uma criação de IA chamada Emma insiste que o Natal deve ser celebrado "da forma tradicional".
Na Irlanda, uma versão ruiva da personagem chama ao taoiseach do país, Micheál Martin, um "porta-voz de Bruxelas". Bruxelas, insiste ela, obriga a Irlanda a ter "fronteiras abertas", apesar de o país não fazer parte do espaço Schengen.
Individualmente, estes vídeos atraíram milhares de visualizações e interações, sobretudo no X.
Estes imitadores podem ser rastreados até à versão mais conhecida, que surgiu primeiro no Reino Unido. Aqui, Amelia, uma estudante gerada por IA com cabelo roxo, tornou-se viral, com a sua primeira publicação viral a acumular mais de 1,4 milhões de visualizações.
As versões da personagem espalharam-se pelo Facebook, Instagram, X e Telegram: Amelia aparece em banda desenhada de manga e ao lado de Harry Potter e da família real em imagens geradas digitalmente, encorajando os residentes do Reino Unido a "recuperar o seu país" no meio de uma imigração muçulmana descontrolada e de um governo incompetente.
As origens improváveis de Amelia
A organização que criou a personagem em que se baseiam os memes virais afirma que grande parte da narrativa online em torno de Amelia é enganadora.
Uma versão inicial de Amelia apareceu em Pathways, um jogo educativo desenvolvido pela empresa social Shout Out UK, sediada no Reino Unido, em parceria com as autoridades locais de Hull e East Riding of Yorkshire. O projeto foi financiado pelo Ministério do Interior do Reino Unido no âmbito de um programa de prevenção do extremismo.
O jogo pede aos estudantes que escolham uma personagem que é depois colocada em vários cenários online, onde lhes é pedido que façam escolhas sobre como responder a mensagens e várias formas de pressão dos seus pares.
Matteo Bergamini, diretor-executivo da Shout Out UK, disse à equipa de verificação de factos da Euronews, O Cubo, que o jogo foi desenvolvido em 2023, quando as autoridades locais de Hull e Yorkshire descobriram que a radicalização era mais arriscada online, especialmente para crianças entre os 13 e os 18 anos.
"A ameaça vinha principalmente do ecossistema emergente da extrema-direita online", afirmou Bergamini, acrescentando que o jogo em si era direcionado e limitado a estas áreas no Reino Unido.
O jogo não se destinava a ser jogado isoladamente e fazia parte de um pacote de aprendizagem mais vasto, concebido para permitir aos professores facilitar debates sobre comportamentos inseguros e comportamentos seguros, acrescentou.
No jogo, Amelia não é uma protagonista ou um modelo a seguir, mas uma personagem secundária que incentiva a personagem principal a adotar comportamentos de risco online.
Além disso, o jogo não sugere, ao contrário do que se afirma online, que um professor encaminhe uma criança para o Prevent, um programa do governo britânico, por questionar a migração maciça.
Ao que parece, o meme Amelia surgiu nos círculos de extrema-direita como reação ao que consideraram ser uma caricatura que criticava as suas opiniões contra a imigração.
O Cubo contactou alguns dos criadores do meme, que não responderam a tempo da publicação.
Versões extremas e monetização
A maioria dos memes de Amelia, especialmente em plataformas como o X, são relativamente inofensivos. Não necessitam de ser removidos ao abrigo das regras da Lei dos Serviços Digitais (DSA).
A DSA exige que as plataformas removam conteúdos ilegais, como discursos de ódio, terrorismo e material de exploração sexual infantil, bem como tipos específicos de publicidade prejudicial.
Mas os investigadores que têm acompanhado a rápida ascensão de Amelia dizem que existem versões extremas da personagem em comunidades online de nicho e em aplicações como o Telegram.
Siddharth Venkataramakrishnan, analista do Instituto para o Diálogo Estratégico (ISD), sediado em Londres, afirmou que o meme foi adotado por um vasto espetro de comunidades online, desde as que o utilizam ironicamente até algumas das maiores contas anti-migrantes.
Embora nem todas as versões da personagem contenham discurso de ódio, há versões que utilizam imagens desumanas e violentas dirigidas a comunidades específicas.
A Shout Out UK afirma que a sua personagem foi "memorizada e sexualizada" online por atores de direita, com muitos a associarem-na a linguagem racista e antissemita, a tropos nazis e de extrema-direita.
A campanha, segundo a organização, ultrapassou os espaços da Internet e levou ao envio de ameaças e mensagens maliciosas aos membros do seu pessoal.
Amelia também se tornou um veículo de monetização. O ISD identificou contas que promovem moedas meme com o tema Amelia, uma tendência comum nos movimentos virais das redes sociais.
Com isto em mente, diz Venkataramakrishnan, não é claro quais as contas que estão a publicar memes Amelia para transmitir mensagens políticas e quais as que o estão a fazer para obter lucros.
"Onde é que se cruza a linha do apoio a algo por causa da ideologia para o apoio porque se quer ganhar dinheiro?
Os memes com carga emocional também têm mais probabilidades de ganhar força nas redes sociais quando o envolvimento começa a aumentar, explicou Venkataramakrishnan, um efeito que teria levado os memes Amelia a espalharem-se rapidamente.