Bastaram algumas horas, não semanas: foi esse o tempo que um modelo de IA da Anthropic demorou a detetar falhas em sistemas confidenciais do governo dos EUA
Um modelo de IA desenvolvido pela Anthropic detetou vulnerabilidades em sistemas informáticos altamente sensíveis do governo dos EUA durante um exercício de teste, disse um responsável norte-americano à Associated Press.
PUBLICIDADE
PUBLICIDADE
O responsável, que falou sob anonimato, afirmou que a Anthropic se tinha associado a agências de informações norte-americanas para realizar os testes com o modelo Mythos da empresa.
Segundo o responsável, o modelo identificou determinadas vulnerabilidades em poucas horas, embora isso não significasse que tivesse sido capaz de as explorar nesse período.
Os testes foram realizados no âmbito de uma iniciativa da Anthropic denominada Project Glasswing, que reuniu empresas tecnológicas numa tentativa de proteger software crítico das consequências «graves» que o Mythos poderia representar para a segurança pública, a segurança nacional e a economia.
O senador democrata Mark Warner, do estado da Virgínia, mencionara brevemente estes testes durante uma audição em 11 de junho na Comissão de Bancos, Habitação e Assuntos Urbanos do Senado.
«Esta ferramenta entrou em praticamente todos os nossos sistemas classificados, não em semanas mas em horas», afirmou, atribuindo a informação ao diretor da Agência de Segurança Nacional (NSA) e do Comando Cibernético dos EUA, general Joshua Rudd.
Tensões crescentes
Apesar da cooperação entre a Anthropic e as agências norte-americanas, têm aumentado as tensões entre a empresa, sediada na Califórnia, e a administração Trump.
A Anthropic manifestou preocupações sobre a forma como os militares norte-americanos poderiam usar a sua IA, enquanto a administração avançou com medidas para restringir a utilização de alguns dos seus modelos.
No início deste mês, a administração emitiu uma diretiva que obriga a Anthropic a impedir cidadãos estrangeiros de utilizarem os seus modelos mais recentes, conhecidos como Fable 5 e Mythos 5.
A Anthropic disponibilizou amplamente este mês o Fable, uma versão limitada do mais avançado Mythos, ao qual a empresa tem imposto um acesso muito restrito por motivos de cibersegurança.
A diretiva foi emitida dez dias depois de o presidente Donald Trump ter assinado uma ordem executiva que estabelece um quadro para o governo federal avaliar, durante um período até um mês antes da divulgação pública, os riscos para a segurança nacional colocados pelos sistemas de IA mais avançados.
Segundo a ordem, a participação dos desenvolvedores de IA seria voluntária.
A Anthropic afirmou ter desativado os modelos para todos os clientes, a fim de cumprir a diretiva, mas acrescentou não considerar que as medidas do governo fossem justificadas pela preocupação de segurança que tinha sinalizado.
Resistência da indústria
Mais de 100 especialistas em cibersegurança e dirigentes de empresas como a Adobe e a Nvidia escreveram ao governo a pedir que revogasse a diretiva, alertando que a medida poderia beneficiar mais os adversários dos EUA do que prejudicá-los.
Na carta, os signatários referem que os modelos Mythos da Anthropic são «bastante bons» a detetar falhas de software e a transformar explorações em armas, mas «não são excecionalmente bons nessas tarefas».
Muitos afirmaram utilizar regularmente outros modelos de base e de código aberto para auditorias de segurança e formação, e alertaram que era perigoso retirar as melhores capacidades de defesa cibernética «sem uma boa razão» numa altura em que os adversários dos Estados Unidos avançam rapidamente.