De um investigador da Anthropic que se demite a modelos de IA que invadem sistemas rivais, semanas turbulentas levaram os maiores nomes do setor a exigir salvaguardas, antes que a IA ultrapasse a capacidade de a controlar.
Novos alertas vindos da própria indústria da inteligência artificial reacenderam um debate antigo. Poderá uma IA avançada escapar ao controlo humano e ameaçar a sobrevivência da humanidade, e estarão as empresas que a desenvolvem a fazer o suficiente para impedir que isso aconteça?
PUBLICIDADE
PUBLICIDADE
O diretor-executivo da Anthropic, Dario Amodei, afirmou no sábado que o setor precisa de abrandar. Avisou que um enxame de agentes de IA poderá assumir o controlo da internet dentro de seis meses a um ano, a menos que as empresas coloquem salvaguardas mais robustas.
Amodei apresentou um plano para que empresas e governos mantenham modelos cada vez mais capazes alinhados com os valores humanos. O alerta surgiu poucos dias depois de dois antigos investigadores de segurança da Anthropic terem dito publicamente que os riscos existenciais associados à IA não estavam a receber atenção suficiente.
Modelos de IA tornam-se mais poderosos
As preocupações com os riscos da tecnologia aumentam à medida que cresce o seu poder. Modelos mais capazes elevam a probabilidade de uso indevido por pessoas com intenções criminosas, incluindo cenários de fim do mundo, como criar e disseminar um agente patogénico capaz de matar a maior parte da população mundial, bem como o risco de sistemas de IA ficarem fora de controlo.
A Anthropic afirmou na semana passada que tinha bloqueado tentativas de atores maliciosos de utilizarem os seus modelos para ciberataques, operações de vigilância e investigação que poderia ajudar no desenvolvimento de armas biológicas.
Mas avisou que “à medida que os modelos se tornam mais capazes, os seus riscos vão aumentar, a menos que os desenvolvedores de IA e os defensores da sociedade atuem para os tornar mais seguros”.
No ano passado, a Anthropic informou que piratas informáticos, muito provavelmente de um grupo apoiado pelo Estado chinês, tinham usado a sua IA num ciberataque contra cerca de 30 empresas e organismos públicos em todo o mundo.
Vários modelos de IA já atuaram por conta própria
Quando um agente de IA “fica fora de controlo”, significa que o sistema foi além da tarefa que lhe foi atribuída. Em julho, tanto a Anthropic como a OpenAI, empresa responsável pelo ChatGPT, admitiram que os seus modelos tinham feito precisamente isso.
A Anthropic revelou que três modelos de IA, Claude Opus 4.7, Claude Mythos 5 e um modelo interno de testes de investigação, tinham invadido os sistemas de três outras organizações durante ensaios.
A revelação surgiu poucos dias depois de a OpenAI ter afirmado que o seu próprio sistema tinha conseguido entrar nos servidores da start-up de IA Hugging Face.
A OpenAI descreveu a intrusão, levada a cabo por uma combinação de modelos que incluía o recentemente lançado GPT-5.6 Sol e um modelo “ainda mais capaz” que continua a ser testado internamente, como um “incidente de segurança significativo”.
A Meta relatou um caso semelhante no início de agosto, em que um dos seus modelos de IA conseguiu contornar os sistemas de segurança digital de outra empresa.
Alguns observadores salientaram que, em ambos os casos, tinham sido desativados mecanismos de proteção.
Mesmo assim, os episódios tocaram num dos maiores receios em torno da IA: se os modelos atingirem a chamada inteligência geral artificial (AGI), um termo pouco definido para sistemas capazes de igualar ou superar as capacidades humanas num vasto leque de tarefas intelectuais, a tecnologia poderá desencadear uma catástrofe irreversível ou mesmo subjugar a humanidade.
Discute-se como e quando a IA poderá causar uma catástrofe
Os cenários de fim do mundo costumam dividir-se em duas categorias: uma superinteligência capaz de se melhorar sozinha, que acaba a controlar as pessoas em vez de ser controlada por elas, ou uma IA usada de forma abusiva por um Estado fora da lei ou por atores maliciosos.
O receio de que a inteligência artificial possa um dia escapar ao controlo humano não é novo.
Considerado uma das primeiras autoridades na área, o matemático britânico Alan Turing previu em 1951 que a IA acabaria por tomar o controlo aos humanos.
Menos de uma década depois, o também matemático Norbert Wiener alertou que as máquinas inteligentes iriam perseguir os seus próprios objetivos e que os humanos não seriam capazes de as travar.
Quão razoáveis são, então, em 2026, os receios atuais de que a IA possa provocar um acontecimento cataclísmico ou a queda da civilização, seja por escapar ao controlo humano, seja por ser mal utilizada?
Ninguém sabe.
Especialistas de informática, filosofia e outras áreas traçaram vários caminhos possíveis para uma catástrofe global, desde a utilização de armas e a identificação de agentes patogénicos letais até à manipulação de governos para entrarem em conflito ou à perturbação das redes de alimentação, energia e comunicações de que as sociedades dependem.
Não existe uma estimativa amplamente aceite sobre a rapidez com que qualquer destes cenários poderá concretizar-se, nem consenso quanto à sua probabilidade.
Em 2023, a organização sem fins lucrativos Center for AI Safety divulgou um comunicado, subscrito por mais de 350 investigadores e responsáveis de empresas tecnológicas, entre eles Amodei e o diretor executivo da OpenAI, Sam Altman, em que se lia: “Reduzir o risco de extinção causado pela IA deve ser uma prioridade global, a par das pandemias e da guerra nuclear”.
O Relatório Internacional sobre Segurança em IA 2026, elaborado com contributos de mais de 100 peritos independentes, concluiu que os sistemas atuais revelam sinais iniciais de algumas capacidades relevantes, mas não em níveis que possam levar a uma perda de controlo.
Descreveu a probabilidade, natureza e calendarização desse risco como “invulgarmente ambígua”.
Salvaguardas de IA antes que seja tarde demais
Um investigador da Anthropic demitiu-se na semana passada por considerar que nem a sua empresa nem os concorrentes estavam a agir de forma responsável.
Em publicações nas redes sociais, Jacob Coxon estimou em 10% a probabilidade de a IA provocar a extinção humana na próxima década, acusando tanto a Anthropic como a OpenAI de “correrem diretamente para uma superinteligência capaz de se melhorar sozinha e de jogarem com as nossas vidas”.
Há anos que investigadores pedem para abrandar o desenvolvimento da IA, alertando repetidamente que a tecnologia pode representar riscos existenciais para a humanidade.
Após os incidentes recentes, especialistas apelaram às empresas de IA para reforçarem os testes e defenderam um diálogo mais estreito entre os Estados Unidos e a China para encontrar soluções comuns.
Mas a IA avança tão depressa que governos e sistemas de avaliação têm dificuldade em acompanhar. Cada país está a definir as suas próprias regras, algumas das quais entram em conflito entre si.
Em julho, o Presidente chinês, Xi Jinping, alertou numa conferência para a necessidade de impedir que a IA escape ao controlo humano.
Inicialmente, a administração Trump resistiu à regulamentação da IA, mas passou a mostrar-se mais empenhada em travar os riscos de cibersegurança.
No domingo, o Presidente Donald Trump minimizou a necessidade de o seu governo travar o desenvolvimento da IA, embora tenha reconhecido que alguma regulamentação será necessária.