A empresa de IA revelou usos dos seus modelos em ciberataques, propaganda e investigação biológica perigosa, dias após a demissão de um investigador por questões de segurança.
A Anthropic afirmou, na quinta-feira, ter bloqueado tentativas de atores maliciosos de utilizarem indevidamente os seus modelos de inteligência artificial em ciberataques, vigilância e investigação biológica que poderia contribuir para o desenvolvimento de armas.
PUBLICIDADE
PUBLICIDADE
Com o aumento da capacidade dos modelos de IA, os ciberataques sofisticados exigem cada vez menos conhecimentos técnicos, o que significa que mesmo indivíduos isolados conseguem agora criar ameaças que teriam sido impossíveis há apenas um ano, disse a empresa.
A Anthropic acrescentou ter reforçado os mecanismos de segurança nos seus modelos mais recentes para limitar investigação biológica com possíveis aplicações em armamento.
“Os casos que partilhamos aqui não são exemplos típicos de utilização indevida, mas sim das atividades de ameaça mais relevantes e recentes que identificámos até à data”, afirmou a Anthropic no seu terceiro relatório sobre o uso indevido de IA desde março de 2025.
Inclui excertos de código malicioso e pedidos a sistemas de IA que a empresa diz ter identificado, e apela a governos e empresas rivais de IA para que estejam atentos a abusos semelhantes.
“Estamos a publicar este trabalho porque consideramos ter a responsabilidade de divulgar a utilização maliciosa dos nossos serviços”, afirmou a empresa.
“À medida que os modelos se tornam cada vez mais capazes, os riscos vão aumentar, a menos que os desenvolvedores de IA e os defensores da sociedade atuem para os tornar mais seguros.”
A Anthropic, que prepara uma oferta pública inicial para este outono, divulgou o relatório dois dias depois de um dos seus investigadores ter anunciado a demissão, por receios de que a empresa e os seus concorrentes não estejam a desenvolver a IA de forma responsável.
Reforçou alertas já feitos noutros pontos da indústria sobre o potencial desta tecnologia para escapar ao controlo humano.
Pedidos para tornar um vírus mais perigoso
Entre dezembro de 2025 e agosto de 2026, os investigadores da Anthropic identificaram utilizações indevidas por parte de atores que vão de vendedores de spyware e indivíduos motivados politicamente a grupos patrocinados por Estados que difundem propaganda.
Entre os casos descritos no relatório, houve atores não identificados que tentaram usar os modelos da Anthropic para investigação que poderia conduzir a armas biológicas.
Numa das situações, a empresa afirmou que os seus sistemas bloquearam um pedido para que o chatbot Claude ajudasse a redigir uma candidatura a financiamento científico.
“O trabalho descrito na candidatura envolvia investigação de ganho de função — isto é, investigação que altera geneticamente um organismo para criar uma propriedade biológica nova ou reforçada — sobre o vírus chikungunya”, lê-se no relatório.
A investigação incidia sobre a transmissibilidade do vírus e a sua capacidade de escapar ao sistema imunitário.
O chikungunya é um vírus transmitido por mosquitos que provoca dores intensas e febre. A proposta de financiamento pretendia reforçar mutações que tornassem o vírus progressivamente mais perigoso.
Anthropic afirmou que este tipo de investigação pode “certamente” apoiar o desenvolvimento de vacinas e tratamentos, mas acrescentou que “também poderia ser usada para tornar o agente patogénico mais perigoso”.
Não garantem ausência de danos
Nenhum dos casos descritos no relatório envolveu os modelos mais recentes e mais poderosos da Anthropic, Claude Fable ou da classe Mythos, com uma exceção: uma “campanha encoberta em escala industrial para extrair as capacidades de um modelo e replicá-las noutro modelo sem autorização”.
Anthropic informou que os seus modelos mais antigos, incluindo Claude Opus 4 e Claude Sonnet 4.5, lançados em 2025, “ficavam muito abaixo do limiar em que poderiam ajudar de forma significativa um utilizador sofisticado a realizar investigação biológica perigosa”.
“Como resultado, as salvaguardas destes modelos eram menos rigorosas, orientadas sobretudo para impedir o acesso a conteúdos que pudessem capacitar principiantes a recriar armas biológicas já conhecidas”, refere o relatório.
“Mas, nos modelos atuais — capazes de apoiar uma vasta gama de tarefas complexas de investigação científica — a evidência já não é tão clara e não podemos dar a mesma garantia.”
Por isso, a Anthropic introduziu salvaguardas mais apertadas que restringem o acesso, nos modelos mais recentes, como Claude Fable 5, a um vasto conjunto de pedidos relacionados com investigação biológica de dupla utilização, segundo o relatório.
À medida que as empresas de IA lançam modelos cada vez mais poderosos, especialistas têm apelado a que os governos regulem a tecnologia em vez de dependerem de que o setor se autoregule.
John Thickstun, professor auxiliar de informática na Universidade Cornell, afirmou que isso coloca empresas como a Anthropic e a OpenAI numa posição desconfortável, já que são, na prática, obrigadas a fazer “juízos de valor à escala da sociedade, sem qualquer tipo de supervisão democrática ou deliberativa”.
Relatório surge após alerta de investigador
A Anthropic identificou também grupos que tinham criado centenas de contas falsas nas redes sociais, concebidas para parecer utilizadores comuns, que depois publicaram conteúdos amplificando a mesma mensagem política ao longo de uma semana.
Detalhou nove casos deste tipo, com origem na Rússia, Irão, Turquia e em vários países do Golfo, Sul da Ásia, África e Europa.
“Embora as plataformas de redes sociais consigam detetar operações de influência quando as publicações já estão a circular, a Anthropic afirmou que ‘pode vê-las no Claude quando a operação ainda está a ser montada’.”
O relatório foi divulgado após a demissão do investigador da Anthropic Jacob Coxon, que disse estar de saída por receios de que a empresa e o seu principal rival, a OpenAI, “estejam a correr diretamente para uma superinteligência autoaperfeiçoável e a jogar com as nossas vidas”.
Coxon alertou que alguns dos seus antigos colegas acreditam que a IA pode ameaçar a vida humana antes do fim da década.
A Anthropic afirmou que bloqueou todas as atividades maliciosas identificadas no relatório, utilizou as conclusões para reforçar as suas salvaguardas e partilhou informação com autoridades governamentais e parceiros da indústria.
“Esperamos que as conclusões deste relatório ajudem outros desenvolvedores a reconhecer padrões semelhantes nas suas próprias plataformas, deem aos governos e à sociedade civil uma visão mais clara de como surgem as novas ameaças e reforcem as defesas coletivas”, declarou a empresa.