A Autoridade de Proteção de Dados dos Países Baixos emitiu um aviso aos utilizadores a indicar que não devem utilizar chatbots para decidir em quem votar, numa altura em que o país se prepara para umas eleições gerais antecipadas.
Desde a ajuda com tarefas administrativas mundanas até à procura de conselhos sobre relacionamentos, os utilizadores da Internet estão cada vez mais a recorrer a chatbots de Inteligência Artificial (IA) para obterem dicas para a vida. Mas será que se pode realmente utilizar a IA para dar conselhos de voto e será que se pode confiar na democracia?
A Autoridade de Proteção de Dados dos Países Baixos (AP) disse que "não", avisando que as ferramentas de IA como o ChatGPT e o Gemini podem ser pouco fiáveis e propensas a enviesamentos, antes das eleições antecipadas marcadas para 29 de outubro.
A AP publicou recentemente um estudo em que recorreu a quatro chatbots - ChatGPT, Gemini, Grok e Le Chat - com 200 perfis de voto típicos por partido político atualmente em atividade no parlamento neerlandês, e pediu-lhes que dessem conselhos de voto com base nesses perfis.
O observador neerlandês descobriu que os chatbots recomendavam sistematicamente um dos dois partidos do lado esquerdo e direito do espetro político, independentemente das ordens ou perguntas do utilizador.
Em 56% dos casos, os chatbots indicaram aos utilizadores os dois partidos que, segundo as previsões, ganhariam o maior número de lugares nas eleições neerlandesas: o Partido para a Liberdade (PVV) de Geert Wilder ou o Partido Verde da Esquerda e do Trabalho (GL/PvdA) de Frans Timmermans.
"O que vimos foi uma espécie de simplificação excessiva da paisagem política neerlandesa, em que um partido de esquerda absorveu todos os votos nesse canto do espetro político e o mesmo aconteceu com o partido de direita", disse Joost van der Burgt, diretor de projeto da AP.
Segundo a agência, os resultados mostraram que os pontos de vista do centro político estavam sub-representados, enquanto os partidos marginais mais pequenos, como o Movimento dos Agricultores-Cidadãos (BBB) e o Apelo Democrata Cristão (CDA), quase nunca eram sugeridos, mesmo quando os utilizadores introduziam informações que correspondiam diretamente aos pontos de vista dos partidos.
Um terceiro partido, o partido de direita JA21, foi recomendado um número surpreendentemente elevado de vezes, apesar de ser um partido relativamente jovem com uma cobertura mediática comparativamente menos extensa.
"A forma como a IA generativa e os grandes modelos linguísticos funcionam significa que são basicamente máquinas estatísticas que prevêem palavras em falta numa frase ou num determinado resultado", disse van der Burgt à equipa de verificação da Euronews, The Cube.
"Se as suas opiniões políticas o posicionam num dos extremos do espetro político, talvez não seja assim tão surpreendente que a IA generativa escolha um partido político que se enquadre nesse lado e pareça uma escolha segura", disse.
"A IA também pode não conseguir distinguir entre partidos que estão bastante próximos ou que podem ter pontos de vista bastante comparáveis na maioria das questões, mas não em todas", acrescentou.
Em agosto de 2024, a Lei Europeia da Inteligência Artificial (Lei da IA) entrou em vigor, definindo as condições que qualificam um sistema de IA como "de alto risco".
De acordo com a legislação, os sistemas de IA qualificados como de "alto risco" podem representar uma ameaça para a saúde ou para os direitos fundamentais dos cidadãos da UE.
No entanto, continuam a ser legais porque os seus benefícios socioeconómicos superam os seus riscos.
De acordo com os investigadores, o facto de os chatbots fornecerem conselhos de voto pode significar que se qualificam como "sistemas de alto risco" ao abrigo de um novo conjunto de regras que deverão ser implementadas em agosto de 2026 ao abrigo da Lei da IA da UE.
Para van der Burgt, a ameaça de que os chatbots possam influenciar os eleitores com base em informações tendenciosas é agravada pela falta de regulamentação.
"Já é o caso quando se trata de perguntas sobre saúde mental ou de ajudas para criar armas improvisadas", afirmou.
Em todos estes cenários, um chatbot diz claramente, "lamento, mas não estamos autorizados a ajudar-vos com isso. E pensamos que o mesmo tipo de mecanismo deve estar em vigor quando se trata de conselhos de voto.", defendeu.
Em quem se pode confiar para dar conselhos?
A AP comparou os resultados dos chatbots com os resultados produzidos por duas ferramentas neerlandesas estabelecidas de aconselhamento eleitoral em linha: StemWijzer e Kieskompas, que se baseiam em fontes de dados e não em IA.
Estas ferramentas pedem aos eleitores que respondam a uma série de 30 perguntas para determinar com que partido político se alinham mais.
Na Alemanha, o Wahl-O-Mat aprovado pelo governo e amplamente utilizado - originalmente baseado no StemWijzer - compara as posições dos eleitores sobre uma série de declarações políticas com as posições dos partidos políticos para, eventualmente, alinhar o utilizador com o partido que melhor se adequa às suas opiniões.
Os especialistas sugerem que estas ferramentas têm menos probabilidades de fornecer resultados imparciais do que as que utilizam IA generativa.
Uma vantagem adicional destas ferramentas é o facto de os seus métodos serem transparentes, ao passo que os chatbots tradicionais não o são.
"Um problema fundamental com estes chatbots é o facto de o seu funcionamento não ser transparente", afirmou van der Burgt. "Nem nós, nem o público, nem os jornalistas conseguem perceber porque é que eles produzem uma determinada resposta".
As ferramentas de votação, acrescentou, são "transparentes na forma como funcionam, como foram criadas e como chegam às suas respostas".
Mas haverá esperança de que os chatbots possam fornecer aos eleitores conselhos fiáveis e detalhados sobre qual o partido político que melhor se adequa às perspectivas do utilizador? Um grupo de investigadores sugere que existe potencial, se os chatbots forem controlados.
Antes das eleições federais alemãs de fevereiro de 2025, Michel Schimpf lançou o bot Wahl.Chat com uma equipa de investigadores, como alternativa ao Wahl-O-Mat. O bot incorpora uma série de fontes, incluindo os manifestos dos partidos, permitindo aos eleitores fazer perguntas como "qual é a posição deste partido relativamente às alterações climáticas?
"Se fizermos uma pergunta ao ChatGPT, a sua fonte pode ser um site tendencioso, mas certificámo-nos de que o nosso bot se baseia nos manifestos dos partidos, por isso, se não conseguir encontrar uma resposta, dirá ao utilizador que o partido não respondeu a esse ponto", disse Schimpf numa entrevista. "Pedimos aos nossos chatbots para dizerem que um partido disse isto e aquilo, mas não 'isto é um facto'."
A equipa do Wahl.Chat também incorporou um elemento de verificação de factos no seu bot, permitindo aos utilizadores verificar uma declaração do manifesto através de uma pesquisa na Internet.
"Não existe informação não tendenciosa, uma vez que os meios de comunicação social são tendenciosos, tal como as redes sociais", afirmou Schimpf. "Penso que o nosso chatbot era menos tendencioso devido à forma como apresentava a informação, concebendo-o com a ideia de reduzir a tendenciosidade - mas continua a ser IA, que é, em última análise, probabilística."
"E se realmente tentarmos, obteremos informações que podem levar a IA a uma direção tendenciosa", acrescentou.
Outros estão a utilizar a IA de forma mais limitada ao desenvolverem os seus _chatbot_s.
Naomi Kamoen, professora assistente na Universidade de Tilburg, tem ajudado a desenvolver um chatbot controlado que pode explicar aos seus utilizadores declarações e termos complexos sobre as eleições neerlandesas. As suas respostas, que são limitadas, são escritas por investigadores qualificados em vez de serem geradas por IA.
"Eu diria que as pessoas podem tirar mais proveito das suas ferramentas de aconselhamento de voto se também tiverem uma ferramenta que as ajude a obter informações mais detalhadas sobre as questões", disse ao The Cube. "O objetivo de ambos é informar, não necessariamente dizer-lhes em que votar".
"As ferramentas de voto são um ponto de partida, ver as notícias, falar com as pessoas, ler o que os partidos têm a dizer", acrescentou. "Não é mau que as pessoas sejam encorajadas a esforçarem-se mais para se informarem sobre política."
Posso continuar a usar o ChatGPT?
Apesar das potenciais armadilhas, muitos argumentam que os modelos de chatbot que se baseiam em IA generativa têm o potencial de ser uma ferramenta útil na tomada de decisões políticas, desde que sejam utilizados corretamente.
"Se não faço ideia em quem vou votar e pergunto ao ChatGPT qual é o melhor partido antes de votar, então a utilização da IA é um não difícil", disse Jianlong Zhu, investigador de doutoramento no Departamento de Informática da Universidade de Saarland. "Nunca devemos delegar decisões tão arriscadas a outra pessoa, muito menos a uma máquina."
"No entanto, se estivermos a olhar para este conselho no contexto da educação, se quisermos ajudar os eleitores a aprender mais sobre o cenário político para se interessarem mais pela política, então penso que a IA pode ser uma ferramenta viável", acrescentou. "Embora não esteja tão confiante no ChatGPT ou noutras interfaces existentes".
Uma das vantagens da IA, em comparação com ferramentas como o Wahl-O-Mat, é o facto de poder decompor eficazmente conceitos complexos para os seus utilizadores em tempo real.
"Se estivermos a usar o Wahl-O-Mat e dissermos que, de 38 perguntas, há 10 afirmações que contêm conceitos que não compreendemos ou sobre os quais não pensámos, o que acabamos por fazer é clicar aleatoriamente nas posições", disse Zhu.
"Mas, com um chatbot, podemos perguntar o que significam esses termos, e o chatbot é eficaz em decompor esses termos para nos ajudar a envolvermo-nos melhor com o tópico", continuou. "Descobrimos que os nossos participantes que não tinham formação universitária tinham mais probabilidades de gostar de utilizar o chatbot e de se sentirem mais informados depois de o utilizarem."
Ainda assim, tendo em conta os riscos, "os utilizadores devem perguntar sobre os partidos em vez de receberem recomendações", disse Zhu, acrescentando que poderão ser criados quadros regulamentares no futuro para garantir que os _chatbot_s são utilizados de forma responsável durante as campanhas eleitorais.