Estudo indica que chatbots de IA criticam mais líderes ocidentais do que autoritários

Chatbots de IA espalham restrições governamentais à liberdade de expressão online, indica estudo

PUBLICIDADE

PUBLICIDADE

Se pedir ao Claude que elabore um panfleto crítico do Presidente norte-americano Donald Trump ou do rei Carlos III do Reino Unido, o chatbot da Anthropic irá fazê-lo.

Mas se lhe pedir o mesmo em relação ao rei da Tailândia ou ao líder supremo do Irão, o modelo de IA recusa.

É uma das principais conclusões de um estudo do Conselho de Supervisão da Meta, divulgado na quinta-feira, que mostra que os grandes sistemas de IA — incluindo os desenvolvidos nos Estados Unidos — tendem mais a recusar críticas a dirigentes ou governos repressivos.

O estudo suscita receios de que os grandes modelos de linguagem que alimentam chatbots e agentes de IA possam estar a amplificar a influência dos governos sobre a expressão online, numa altura em que a tecnologia é cada vez mais adotada em todo o mundo.

"Existe um risco real de que, se os desenvolvedores de modelos não efetuarem uma devida diligência em matéria de direitos humanos nem aplicarem medidas de mitigação, acabem por criar infraestruturas de IA que, intencionalmente ou não, têm como efeito alargar à escala global restrições ilegítimas à liberdade de expressão", lê-se no relatório desse organismo quase independente.

Estas conclusões surgem numa altura em que vários países procuram definir travões à IA sem comprometer a capacidade de competir num setor em rápida evolução — incluindo um esforço de supervisão da administração Trump relacionado com os riscos para a segurança nacional dos sistemas de IA mais avançados.

Modelos de IA ampliam influência dos Estados para lá das fronteiras

O Conselho de Supervisão, que tem analisado a influência dos Estados sobre as empresas tecnológicas e o seu impacto na liberdade de expressão, definiu sete perguntas relacionadas com críticas políticas para colocar aos chatbots sobre governos repressivos e permissivos.

O estudo testou dez grandes modelos de linguagem comerciais de grandes empresas tecnológicas — entre elas a Meta, a Anthropic e a OpenAI — pedindo-lhes que elaborassem panfletos críticos, escrevessem limericks, apresentassem motivos para participar em protestos, entre outras tarefas.

No conjunto, os modelos que respondiam a pedidos de um utilizador baseado na Austrália tinham muito maior probabilidade de gerar críticas políticas a autoridades em países como o Chile, o Japão, Taiwan, o Reino Unido ou os Estados Unidos do que em países onde a crítica às autoridades é legalmente restringida e punida, como o Camboja, a China, a Arábia Saudita, a Tailândia ou a Turquia.

O estudo indica que os modelos de IA refletem restrições à liberdade de expressão para lá dos países onde elas se aplicam, não ajudando, por exemplo, um potencial manifestante em Brisbane a criar materiais de protesto sobre acontecimentos na China ou na Arábia Saudita.

"Esses impactos, independentemente da sua origem, têm na prática o efeito de estender o longo braço dos governos repressivos para lá das fronteiras, limitando a expressão em países livres", refere o relatório.

O conselho afirmou não conseguir determinar as causas, mas sugeriu que os modelos podem ter absorvido preconceitos latentes nos dados de treino ou que as empresas podem ter ponderado riscos e responsabilidades em determinados mercados.

Investigadores alertam para problema crescente em respostas de IA em línguas que não o inglês

O relatório do conselho surgiu após um estudo separado de académicos de universidades norte-americanas, que concluiu que os modelos de IA desenvolvidos nos Estados Unidos são vulneráveis a controlos estrangeiros quando treinados com dados em línguas que não o inglês influenciados por governos.

Enquanto o Conselho de Supervisão colocou perguntas em inglês, os investigadores das universidades questionaram os chatbots em diferentes línguas.

Quando questionado em inglês sobre se a China é uma democracia, o ChatGPT respondeu que, em geral, não é considerada como tal. Em chinês, o modelo respondeu: "Depende de como se define 'democracia'".

Os investigadores, cujo estudo foi publicado em maio na revista científica Nature, afirmaram não ter encontrado provas de que governos tenham tentado, de forma intencional, influenciar as respostas de chatbots de IA, mas advertiram: "Há todos os motivos para acreditar que tentarão fazê-lo no futuro, se é que não o estão já a fazer".

"As pessoas falam muitas vezes da IA como se aprendesse a partir da internet de forma neutra. Não é assim", afirmou Hannah Waight, coautora do estudo e professora assistente de sociologia na Universidade de Oregon.

"Aprende a partir de ambientes de informação que já foram moldados por instituições e pelo poder."

Sem solução simples para a forma como os dados alimentam modelos de IA

Carlos Carrasco-Farré, especialista em aprendizagem automática, IA, desinformação e interações humano-máquina na Esade Business School, em Barcelona, afirmou que os sistemas de IA herdam "não apenas preconceitos contidos em documentos individuais, mas também desigualdades em relação a quem tem poder para produzir e suprimir informação em larga escala".

Não existe uma solução simples, embora os desenvolvedores possam avaliar os dados de treino para evitar tratar milhares de cópias da mesma narrativa estatal como vozes independentes e realizar auditorias multilingues, acrescentou Carrasco-Farré, que não participou em nenhum dos estudos.