A Agência Espanhola de Proteção de Dados investiga um incidente em que um agente de IA terá atuado autonomamente para explorar falhas, aceder a um sistema e alterar dados pessoais.
A Agência Espanhola de Proteção de Dados (AEPD) divulgou aquele que considera ser o primeiro ciberataque autónomo levado a cabo por um agente de inteligência artificial em Espanha, um incidente que evidencia os novos riscos que esta tecnologia representa para a cibersegurança e a proteção de dados.
PUBLICIDADE
PUBLICIDADE
Segundo a AEPD, o incidente começou quando um agente de IA, apoiado num conhecido modelo de linguagem, detetou falhas de segurança e conseguiu aceder ao sistema de uma entidade. Uma vez dentro, o programa terá atuado sem intervenção humana direta: procurou novas vulnerabilidades na aplicação até conseguir alterar dados pessoais e aceder a faturas da organização afetada.
A AEPD apela à cautela e vai agora avaliar o incidente com base no relatório apresentado pela empresa afetada. A agência esclarece que a ferramenta utilizada não foi concebida para realizar atividades maliciosas, mas alerta que o risco associado ao uso da inteligência artificial em ciberataques “já é real”.
Agentes de IA mudam os ciberataques
Embora a inteligência artificial faça há muito parte do arsenal dos cibercriminosos, o aparecimento de agentes de IA capazes de executar tarefas de forma autónoma representa uma mudança significativa. Até agora, os modelos de IA generativa eram sobretudo utilizados para melhorar a redação de e-mails de phishing, traduzir fraudes em massa, clonar identidades, rever linhas de código ou acelerar a pesquisa de vulnerabilidades.
Os agentes de inteligência artificial vão mais longe. Ao contrário das ferramentas tradicionais, estes agentes podem receber um objetivo e traçar uma estratégia para o alcançar, executar diferentes processos, interpretar as respostas do sistema e ajustar as suas ações consoante os obstáculos encontrados.
A AEPD destaca que a IA não cria necessariamente novas ameaças, mas pode aumentar consideravelmente a velocidade, o alcance e a capacidade de adaptação dos ciberataques já existentes. Esta aceleração pode reduzir o tempo de que as empresas dispõem para detetar e travar uma intrusão antes dos atacantes acederem a informação sensível.
AEPD pede novos protocolos de cibersegurança para a IA
Para lá do salto tecnológico, o incidente evidencia a necessidade de rever a gestão dos riscos associados à inteligência artificial, explica no blogue da agência Francisco Pérez Bes, diretor adjunto da AEPD.
Segundo Pérez Bes, as auditorias de segurança já não podem limitar-se a ameaças tradicionais como o malware ou o phishing. Devem também contemplar expressamente o uso de agentes autónomos, cuja capacidade para executar ações e adaptar o seu comportamento pode alterar tanto a probabilidade como o impacto de um incidente de segurança.
O aparecimento destas ferramentas obriga ainda a rever os protocolos de contenção. Planos de resposta concebidos sobretudo para enfrentar atacantes humanos podem revelar-se insuficientes perante sistemas capazes de explorar múltiplas vias de entrada e ajustar a sua estratégia em tempo real.
Pérez Bes destaca também a importância de proteger as credenciais e as identidades digitais. Se um agente autónomo obtiver credenciais privilegiadas ou uma chave com permissões excessivas, pode comprometer vários serviços a grande velocidade antes de os sistemas de segurança detetarem um comportamento anómalo.
Como podem as empresas proteger-se de ciberataques com IA?
O caso analisado pela AEPD levanta também dúvidas sobre a capacidade das defesas manuais para responder à velocidade a que pode atuar um agente de inteligência artificial.
Embora a supervisão humana continue a ser essencial, as empresas podem precisar de mecanismos automáticos de deteção e resposta capazes de identificar comportamentos suspeitos e reagir com rapidez.
Para o diretor adjunto da AEPD, o surgimento de agentes de IA utilizados com fins ofensivos obriga a rever as estratégias de cibersegurança e proteção de dados perante um cenário em que os ataques podem tornar-se cada vez mais rápidos, adaptativos e automatizados.