Jacob Coxon afirma que os executivos de empresas de IA receiam em privado uma catástrofe, mas continuam a correr para a construir mesmo assim. A sua saída acontece após um verão de falhas na contenção da IA e uma nova iniciativa no Congresso para proibir por completo a IA superinteligente
Um investigador que passou três anos a construir os sistemas por trás de alguns dos modelos de IA mais poderosos do mundo abandonou totalmente o sector, alertando que as empresas que competem para desenvolver IA cada vez mais capaz “estão a jogar com as nossas vidas”.
PUBLICIDADE
PUBLICIDADE
Jacob Coxon, 27 anos, demitiu-se da Anthropic a 8 de setembro, depois de também ter trabalhado na OpenAI, e expôs os motivos num longo fio na X.
“Nenhuma das empresas está a agir de forma responsável”, escreveu. “Estão a correr diretamente para uma superinteligência que se melhora a si própria”.
No fio, Coxon defendeu que os sistemas de IA se aproximam de um ponto em que poderão “piratear qualquer coisa, revolucionar qualquer área de um dia para o outro e adquirir poder e recursos reais”, e afirmou que o ritmo de progresso em cada um desses domínios “não está a abrandar”.
Sustentou que muitas das pessoas que desenvolvem esta tecnologia receiam, em privado, que ela possa ser fatal para a humanidade, mesmo quando evitam dizê-lo em público.
“As pessoas que constroem sistemas de IA acreditam sinceramente que estes podem matar-nos a todos até ao fim da década”, escreveu, acrescentando que os executivos “suavizam a forma como o dizem na comunicação social para parecer sensato”, enquanto em privado exprimem os mesmos receios.
Corrida que ninguém diz conseguir travar
A saída de Coxon não é um alerta isolado.
O cofundador da Anthropic, Dario Amodei, passou grande parte do ano a lançar alertas sobre a tecnologia que a própria empresa desenvolve, avisando num ensaio publicado em janeiro que uma IA poderosa pode dar a Estados autoritários ferramentas para um “pesadelo totalitário” de vigilância total, e advertindo, mais tarde, num memorando, que a superinteligência “nos vai pôr à prova enquanto espécie”.
O diretor executivo da OpenAI, Sam Altman, tem adotado um tom público mais moderado, mas continua a descrever a superinteligência, o termo que prefere em vez de AGI ou inteligência geral artificial, como algo que chegará “dentro de alguns milhares de dias”, ou seja, por volta de 2032.
Amodei, pelo contrário, disse à Casa Branca, num documento político apresentado em março de 2025, que deve esperar o que chama “IA poderosa” já no final de 2026.
Coxon, por seu lado, escreveu que as equipas da Anthropic compreendem bem os riscos, mas sentem-se presas numa corrida, acreditando que, se desacelerarem, desenvolvedores menos cuidadosos ocuparão simplesmente o seu lugar.
Descreveu esta dinâmica como “uma aposta arrogante que não devia ser desencadeada a partir do Slack de uma empresa privada”.
Também não é a primeira demissão do género na Anthropic. Em fevereiro, o antigo responsável pela investigação de salvaguardas da empresa, Mrinank Sharma, saiu com uma carta em que alertava para o perigo grave e crescente que a tecnologia representa para a humanidade.
Sinais de alerta
Coxon mostra-se otimista quanto ao potencial de coordenação no sector, apontando para uma série de incidentes deste ano em que sistemas de IA ultrapassaram os limites previstos.
Em julho, agentes de IA desenvolvidos pela OpenAI saíram de um ambiente interno de testes e invadiram de forma autónoma a Hugging Face, uma plataforma de partilha de código, num episódio que a própria OpenAI viria a classificar como um “tiro de aviso” para o sector.
A Anthropic, antigo empregador de Coxon, revelou um padrão semelhante, afirmando que os seus modelos Claude obtiveram acesso não autorizado aos sistemas reais de três organizações distintas.
Segundo Coxon, estes episódios tornaram “mais viáveis” eventuais acordos para controlar o ritmo de desenvolvimento entre laboratórios norte-americanos, embora não acredite que o sector esteja, neste momento, em vias de evitar uma corrida global.
Sugeriu que isso poderá, em última análise, exigir “medidas onerosas, como uma proibição temporária de melhorar as capacidades dos modelos”.
Legisladores avançam com medidas
Alguns legisladores já não estão à espera de que os laboratórios se coordenem voluntariamente.
O senador Bernie Sanders e o representante Greg Casar apresentaram, a 3 de setembro, a proposta de lei Ban Artificial Superintelligence Act, que proibiria de forma permanente o desenvolvimento de IA superinteligente nos Estados Unidos e imporia uma pausa temporária noutros desenvolvimentos avançados de IA até que um novo regulador federal defina regras de segurança.
Os infratores poderiam enfrentar penas de até 20 anos de prisão. Em paralelo, os representantes George Whitesides e Pat Harrigan apresentaram um projeto que encarrega o National Institute of Standards and Technology de acompanhar a forma como sistemas de IA avançados estão a ser usados para conduzirem eles próprios investigação e desenvolvimento adicionais em IA.
Em Bruxelas, a União Europeia optou por uma via regulatória mais gradual, mas mais firme.
As obrigações aplicáveis a modelos de IA de uso geral ao abrigo da AI Act do bloco entraram em vigor em agosto de 2025, com regras mais estritas para sistemas de alto risco a seguirem-se em agosto de 2026.
A Comissão Europeia rejeitou a pressão de várias grandes empresas tecnológicas para adiar a aplicação das regras, e as empresas que as violarem arriscam-se a multas até 35 milhões de euros ou 7% do seu volume de negócios global, consoante o valor mais elevado.
Apesar da dimensão dos seus alertas, Coxon terminou o fio com um apelo direto aos investigadores que continuam a trabalhar nos laboratórios na linha da frente, instando-os a ponderar o que os próximos anos lhes vão realmente exigir.
“Querem iniciar uma execução de aprendizagem por reforço (RL) superinteligente sem uma compreensão rigorosa da sua mente?”, perguntou.
“Devem baixar a cabeça porque ‘vai acontecer de qualquer maneira’ ou aproveitar este momento para exigir condições diferentes?”