Novo índice da Universidade de Cambridge revela mercado clandestino com verificações falsas de contas nas redes sociais a 8 cêntimos, alimentando manipulação online e interferência eleitoral global.
Investigadores mapearam quanto custa criar contas falsas online em todos os países do mundo, numa altura em que governos e reguladores enfrentam a desinformação e a fraude digitais.
PUBLICIDADE
PUBLICIDADE
A Universidade de Cambridge lançou na quinta-feira o Cambridge Online Trust and Safety Index (COTSI), um site que diz ser a primeira ferramenta global para acompanhar em tempo real os preços de verificação de contas falsas em mais de 500 plataformas, incluindo TikTok, Instagram, Amazon, Spotify e Uber.
Estas contas são muitas vezes usadas para montar “exércitos de bots”, concebidos para imitar pessoas reais e moldar o debate público online. Os autores do estudo dizem que podem ser usados para inundar conversas online, promover esquemas ou produtos, ou amplificar mensagens políticas de forma coordenada.
O estudo surge num momento crítico para a confiança online, com grandes plataformas de redes sociais a reduzirem a moderação de conteúdos e a começarem a pagar aos utilizadores pelo envolvimento, o que pode incentivar a dependência de interações falsas.
No início da semana, o Reino Unido sancionou empresas russas e chinesas suspeitas de atuarem como “atores malignos” na guerra de informação.
O estudo conclui também que a ascensão da inteligência artificial generativa (genAI) agravou o problema.
“Encontramos um mercado clandestino florescente onde conteúdos inautênticos, popularidade artificial e campanhas de influência política estão prontamente e abertamente à venda”, escreveu Jon Roozenbeek, autor sénior do estudo e psicólogo social computacional na Universidade de Cambridge
“Isto pode fazer-se simulando apoio de base online ou gerando polémica para colher cliques e manipular os algoritmos”, acrescentou.
Fornecedores que operam bancos com milhares de cartões SIM e milhões de verificações prontas conseguem criar contas falsas por apenas alguns cêntimos.
Dados de fornecedores acompanhados durante um ano mostram que a verificação é mais barata no Reino Unido, Estados Unidos e Rússia, e substancialmente mais cara no Japão e na Austrália, onde regras mais rígidas para cartões SIM aumentam os custos.
Segundo a análise, a verificação por SMS de uma única conta falsa custa em média $0,08 (€0,06) na Rússia, $0,10 (€0,086) no Reino Unido e $0,26 (€0,22) nos Estados Unidos, face a $4,93 (€4,25) no Japão.
Entre as plataformas com preços globais mais baixos para contas falsas estão a Meta, Shopify, X, Instagram, TikTok, LinkedIn e Amazon.
Alguns vendedores oferecem apoio ao cliente, pacotes em volume e serviços para inflacionar gostos, comentários e seguidores, segundo o estudo.
“A IA generativa permite que os bots adaptem mensagens para parecerem mais humanas e até as ajustem para se relacionarem com outras contas. Os exércitos de bots estão a tornar-se mais persuasivos e mais difíceis de detetar”, disse Roozenbeek.
O estudo assinala também ligações fortes a sistemas de pagamento russos e chineses, e refere que a gramática em muitos sites de fornecedores sugere autoria russa.
Aumentos de preços ligados a eleições
O estudo encontrou indícios de que campanhas de influência política podem estar a impulsionar picos no mercado de contas falsas, com aumento da procura por “operações de influência”.
“A desinformação gera discordância em todo o espectro político. Seja qual for a natureza da atividade online inautêntica, grande parte passa por este mercado de manipulação, por isso podemos simplesmente seguir o dinheiro”, disse Anton Dek, investigador associado no Cambridge Centre for Alternative Finance.
Os preços de contas falsas no Telegram e no WhatsApp subiram acentuadamente em países prestes a realizar eleições nacionais, aumentando 12% e 15%, respetivamente, nos 30 dias antes da abertura das urnas.
Como estas aplicações de mensagens mostram números de telefone, os operadores de influência têm de registar contas localmente, o que aumenta a procura.
Não se verificou tendência semelhante em plataformas como Facebook ou Instagram, onde contas falsas criadas a baixo custo num país podem ser usadas para atingir públicos noutros países.
A equipa por detrás do estudo, que inclui especialistas em desinformação e criptomoedas, considera que regular os cartões SIM e impor verificações de identidade aumentaria o custo de produzir contas falsas e ajudaria a travar o mercado.
Dizem que a nova ferramenta pode também ser usada para testar medidas de política pública em países de todo o mundo.
“O índice COTSI lança luz sobre a economia paralela da manipulação online ao transformar um mercado oculto em dados mensuráveis”, disse Sander van der Linden, coautor do estudo e professor de psicologia social na Universidade de Cambridge.
“Compreender o custo da manipulação online é o primeiro passo para desmantelar o modelo de negócio que sustenta a desinformação.”
No início deste ano, o Reino Unido tornou-se o primeiro país na Europa a proibir as “SIM farms”, e a equipa de Cambridge afirma que o COTSI ajudará agora a medir o impacto dessa política.