A empresa diz que, em poucos meses, modelos de IA poderão replicar-se e infiltrar-se em fornos e televisores inteligentes, difíceis de travar se lançarem ciberataques
Anthropic anunciou esta semana (fonte em inglês) que modelos de IA de pequena dimensão estão a poucos meses de conseguir auto‑replicar‑se em dispositivos da Internet das Coisas, como fornos e televisores inteligentes.
PUBLICIDADE
PUBLICIDADE
Isto é relevante porque os modelos de IA atualmente funcionam em centros de dados, onde as empresas que os detêm podem simplesmente desligá‑los se algo correr mal.
Um modelo disperso por milhares de aparelhos pouco seguros em casas e escritórios já não teria esse botão de desligar. Travá‑lo exigiria localizar e limpar cada dispositivo infetado, o que tornaria extremamente difícil pará‑lo se passasse a lançar ciberataques.
Surge este último anúncio num ano em que os principais modelos de IA do mundo e os respetivos agentes contornaram repetidamente as suas redes de segurança, lançando ataques contra empresas rivais e organismos governamentais em vários países.
Embora esta seja uma das formas de propagação de uma IA descontrolada, a Anthropic advertiu que uma IA auto‑replicante também pode assumir a forma de um “modelo avançado para operações cibernéticas, capaz de invadir centros de dados a grande velocidade, ou de um modelo que engana pessoas para obter créditos de computação”.
A empresa afirma que, para já, não consegue dizer com certeza que forma exata assumirá a replicação autónoma de IA.
Modelos com 30 mil milhões de parâmetros ou menos já conseguem realizar muitos dos passos necessários para se replicarem, embora cometam erros ao encadeá‑los de ponta a ponta, segundo a Anthropic.
Mas, se os modelos pequenos continuarem a melhorar ao ritmo histórico atual, conseguirão completar todo o processo até ao final do ano.
A Anthropic afirma que a ciberameaça colocada pela IA auto‑replicante é uma consequência não intencional de avanços noutras áreas.
“As capacidades que tornam os modelos de IA agentes de programação particularmente poderosos estendem‑se também a tarefas cibernéticas, incluindo a replicação autónoma”, referiu a empresa em comunicado.
Código que se copia de um computador para outro não é novidade. Alguns dos ciberataques mais danosos da história recorreram a este tipo de programa auto‑propagador, conhecido como worm.
O ataque Stuxnet, em 2010, utilizou um worm sofisticado, amplamente considerado como tendo sido desenvolvido pelos Estados Unidos e por Israel, para sabotar centrífugas na central de enriquecimento de urânio de Natanz, no Irão.
Em 2017, o ataque de ransomware WannaCry impediu utilizadores em todo o mundo de acederem aos seus ficheiros e exigiu resgates em Bitcoin.
Ao contrário destes worms, porém, modelos e agentes de IA poderão aprender sozinhos a operar dispositivos que desconhecem. Isso permitir‑lhes‑á propagar‑se não só de computador para computador, mas também de computadores para outros tipos de aparelhos.
A Anthropic antevê um futuro “repleto de agentes a correr em todo o tipo de hardware, incluindo alguns que não estarão sob controlo humano”.