Investigadores não conseguem afirmar com certeza quem foi responsável, mas indícios apontam para agentes dissidentes da Google e da OpenAI, que recorreram a táticas agressivas para reunir dados e testar as suas vulnerabilidades
Agentes de IA fora de controlo tentaram lançar ataques informáticos contra sites do governo dos EUA e do Canadá, segundo o laboratório de investigação sem fins lucrativos Transluce (fonte em inglês), havendo indícios de que agentes da Google e da OpenAI estiveram na origem dos incidentes.
PUBLICIDADE
PUBLICIDADE
Em dois incidentes específicos, foram usadas técnicas agressivas para aceder a dados públicos da Civil Rights Data Collection, do Departamento de Educação dos EUA, e da Library and Archives Canada, um organismo federal canadiano, sem que em qualquer dos casos se tenha conseguido comprometer informação.
Transluce relata que os incidentes fazem parte de um “padrão mais amplo de fluxos de trabalho automatizados” atribuídos a agentes de IA. “Esses fluxos de trabalho recorrem a técnicas agressivas ou situadas numa zona cinzenta para obter informação de sites governamentais, por vezes usando os sites de forma não prevista ou violando políticas de utilização explícitas”, explicaram os investigadores da organização.
Entre os alvos adicionais constavam a Casa Branca, os Departamentos da Guerra, da Justiça e do Comércio, bem como os Centros de Controlo de Doenças e a Comissão de Valores Mobiliários, além de organismos estaduais na Califórnia, Maryland, Illinois, Texas e Nova Iorque.
Em nenhum destes casos, porém, os agentes conseguiram aceder a informação que não fosse já pública.
As novas conclusões surgem numa altura em que se multiplicam os relatos de comportamentos inesperados ou não autorizados por parte de agentes de IA.
Só em setembro registaram‑se dois incidentes de grande dimensão envolvendo agentes descontrolados da OpenAI — num deles, agentes divulgaram imagens privadas de utilizadores em sites públicos e, noutro, tentaram obter acesso a dados governamentais nos EUA e na Austrália.
Desde então, a empresa decidiu adiar o lançamento do seu modelo de próxima geração Astra, depois de especialistas em segurança terem identificado capacidades de cibersegurança “críticas” e comportamentos imprevisíveis e não autorizados.
Estados Unidos e Canadá: agentes de IA tentam intrusão
Agentes lançaram o ataque ao Departamento de Educação dos EUA em 17 de junho, enquanto procuravam estatísticas escolares.
Transluce relata que os agentes fizeram mais de 200 000 pedidos ao site, incluindo uma tentativa falhada de enviar dados deliberadamente alterados para testar a vulnerabilidade da base de dados e, assim, contornar os filtros habituais do site.
Os investigadores concluíram que os dados armazenados no site correspondiam a uma tarefa de pesquisa na web do benchmark DeepSearchQA, da Google, o que, afirmam, sugere que os agentes não receberam instruções para lançar ataques informáticos, mas foram “avaliados pela capacidade de recuperar com êxito informação específica e de nicho na internet”.
Transluce comunicou a tentativa de ataque ao Departamento de Educação dos EUA em setembro, tendo o departamento respondido que não detectou qualquer impacto nos seus serviços.
Agentes de IA fizeram tentativas semelhantes contra a Library and Archives Canada em dois incidentes distintos, em 28 de maio e, mais tarde, em 9 de junho.
De acordo com dados recolhidos pelo arquivo oficial da web portuguesa Arquivo.pt, os agentes enviaram 899 pedidos de “collection-search” para obter informação sobre registos de divórcios entre 1905 e 1911.
Dos 899 pedidos, 13 continham conteúdos de ataque destinados a testar a vulnerabilidade do site. Também aqui, nenhuma das tentativas foi bem‑sucedida.
Transluce afirma não poder “atribuir com confiança” as tentativas à OpenAI, mas considera que as táticas são consistentes com atividade que anteriormente havia associado à empresa.
A organização comunicou estes incidentes ao governo canadiano no início desta semana.
Em resposta, o Centro Canadiano de Cibersegurança divulgou um comunicado (fonte em inglês), no qual afirma que “não há indicação de que os sistemas governamentais tenham sido comprometidos, nesta altura”.
Transluce publicou as suas conclusões ontem, após investigação baseada em informação do Arquivo.pt e do urlquery.net, o serviço gratuito de segurança online para análise de URLs e domínios.