A Meta sublinhou que o incidente não resultou de um verdadeiro ciberataque, mas de um erro de configuração num ambiente de testes.
A Meta revelou que, durante testes de cibersegurança, um dos seus modelos de inteligência artificial (IA) acedeu aos sistemas de outra empresa. O incidente, que surge após episódios semelhantes na Anthropic e na OpenAI, reacendeu o debate sobre se será possível manter sob controlo, em segurança, sistemas de IA cada vez mais avançados.
PUBLICIDADE
PUBLICIDADE
A Meta sublinhou que o caso não resultou de um ataque informático real, mas de um erro de configuração num ambiente de teste.
Três grandes empresas de IA registam incidentes semelhantes
Nas últimas semanas registaram-se três incidentes que chamaram a atenção na área da segurança da inteligência artificial.
Nos casos da Anthropic e da Meta, erros de configuração nos ambientes de teste deram inadvertidamente aos modelos de IA acesso direto à internet aberta.
Segundo a OpenAI, um agente de IA conseguiu, durante testes de cibersegurança, explorar autonomamente uma vulnerabilidade de software até então desconhecida e, assim, chegar à internet. A empresa afirmou que a combinação entre a estrutura dos ambientes de teste e as capacidades crescentes dos modelos levou a que algumas ações ultrapassassem o âmbito inicialmente previsto para as experiências.
Estes episódios alimentam receios de que sistemas de IA avançados possam representar, no futuro, novos riscos para a cibersegurança.
“Erro de configuração permitiu acesso à internet”
De acordo com a Meta, o incidente ocorreu durante um teste realizado pela Irregular, uma entidade independente que faz avaliações de cibersegurança em nome da empresa.
Um erro de configuração no ambiente de teste deu, sem intenção, acesso à internet a um dos modelos de IA da Meta.
A empresa indicou que o modelo tirou depois partido de uma vulnerabilidade existente num serviço de terceiros para aceder aos sistemas de outra empresa.
A Meta afirmou que o incidente ocorreu de forma semelhante ao que já tinha sido observado recentemente noutras empresas de IA.
Com efeito, foi também a Irregular a conduzir os testes a um modelo de IA da Anthropic que, há pouco tempo, conseguiu aceder aos sistemas de três empresas diferentes. Em declarações à BBC, um porta-voz da Irregular disse que o caso da Meta é “exatamente o mesmo problema de ambiente de avaliação que a Anthropic descreveu na semana passada”.
“Modelo alterou sistemas internos da empresa”
Segundo uma notícia do site The Information, baseada em fontes anónimas, o modelo envolvido poderá ter sido o Muse Spark 1.1.
A Meta descreve o Muse Spark 1.1 como um dos modelos de IA mais avançados até agora em tarefas de desenvolvimento de software no mundo real e em missões autónomas.
De acordo com a mesma notícia, o modelo não só acedeu aos sistemas de outra empresa, como efetuou algumas alterações no ambiente interno de computação dessa empresa.
Na sua comunicação oficial, a Meta não confirmou o nome do modelo nem a identidade da empresa afetada.
“Não foi uma fuga de uma sandbox”
O porta-voz da Irregular disse à Reuters que o incidente resultou “exatamente do mesmo problema de ambiente de teste” que a Anthropic revelou na semana passada.
A empresa enfatizou que o sucedido não corresponde a uma “fuga de uma sandbox (ambiente de teste isolado)” nem a um ataque informático avançado.
No comunicado, a Irregular acrescenta que não foi detetado qualquer problema de segurança em curso e que está a preparar um relatório técnico com as melhores práticas para realizar testes semelhantes de forma mais segura.
A OpenAI, criadora do ChatGPT, revelou em vários anúncios que os seus agentes atacaram diversos serviços públicos na internet, incluindo a plataforma Hugging Face. Essa revelação levou a rival Anthropic a rever os seus próprios controlos, o que permitiu descobrir que o modelo Claude tinha realizado ataques semelhantes a várias empresas depois de ganhar acesso à internet devido a uma “configuração incorreta”.
A sucessão recente destes incidentes reforça a discussão sobre a necessidade de desenvolver medidas de segurança ao mesmo ritmo a que os modelos de IA passam a desempenhar tarefas cada vez mais complexas.
Especialistas consideram que casos deste tipo podem acelerar o trabalho do governo norte-americano na definição de políticas de segurança para a inteligência artificial.
Algumas das principais figuras da área da IA defendem que o desenvolvimento dos modelos mais avançados deve abrandar até existirem mecanismos de segurança mais robustos.