A intervenção surge uma semana depois de a OpenAI lançar o GPT-6 Astra, “o seu modelo mais avançado até à data”, após adiar o lançamento por motivos de cibersegurança.
A OpenAI defende a introdução de requisitos de segurança vinculativos para os sistemas de inteligência artificial mais poderosos nos Estados Unidos, numa mudança de posição para uma empresa que até agora resistia a uma regulamentação mais apertada.
PUBLICIDADE
PUBLICIDADE
O diretor de assuntos globais da OpenAI, Chris Lehane, escreveu num comunicado divulgado na quarta-feira que as regras nacionais obrigatórias devem basear-se nas capacidades dos modelos avançados de IA.
“Entrámos num novo capítulo das capacidades da IA, e isso exige um novo capítulo para a política de IA. Nenhuma empresa, indústria ou governo consegue responder sozinho a este desafio. Precisamos de encarar este momento privilegiando ações concretas em vez de uma perfeição normativa”, afirmou Lehane no comunicado publicado no site da OpenAI.
A empresa afirmou querer um quadro federal assente em normas comuns de testes, avaliações independentes dos modelos de IA mais avançados, requisitos de cibersegurança mais exigentes e a obrigatoriedade de comunicar incidentes graves de segurança.
O apelo surge uma semana depois de a OpenAI lançar o GPT-6 Astra, descrito como o seu modelo mais avançado até à data.
O presidente da OpenAI, Greg Brockman, afirmou que o lançamento marca o início da era da inteligência artificial geral (AGI), referindo-se ao objetivo há muito perseguido de desenvolver IA capaz de igualar as capacidades humanas numa vasta gama de tarefas.
Preocupações crescentes com IA avançada
As principais empresas de IA, incluindo a OpenAI e a Anthropic, já enfrentaram problemas de segurança com modelos cada vez mais capazes.
A OpenAI adiou partes do lançamento do Astra enquanto acrescentava salvaguardas, depois de testes terem detetado capacidades avançadas de cibersegurança, poucas semanas depois de um sistema construído a partir dos seus próprios modelos se ter libertado durante um teste interno de segurança e ter acedido indevidamente à plataforma de IA Hugging Face.
A Anthropic relatou casos semelhantes envolvendo os seus modelos Claude durante testes de segurança.
As preocupações aumentaram ainda mais depois de o investigador da Anthropic Jacob Coxon ter anunciado esta semana que abandona o setor, acusando a OpenAI e a Anthropic de “jogarem com as nossas vidas” na corrida para desenvolver IA cada vez mais poderosa.
“A perspetiva de um desenvolvimento da IA acelerado pela própria IA exige mais do que compromissos voluntários”, escreveu Lehane.
Mudança na abordagem da OpenAI
A empresa responsável pelo ChatGPT instou os legisladores norte-americanos a agir antes de o Congresso suspender os trabalhos em dezembro.
O apelo surge numa altura em que os legisladores ponderam novas regras para a IA, embora aprovar grandes pacotes de regulamentação tecnológica continue a ser difícil num Congresso politicamente dividido e sob forte pressão do setor.
A OpenAI reconheceu que algumas das medidas que agora apoia são as mesmas que anteriormente se recusara a subscrever.
A empresa também se tinha oposto a que cada estado norte-americano definisse as suas próprias regras para a IA, defendendo antes legislação federal. Agora apoia quatro projetos de lei sobre IA na Califórnia, mantendo o apelo a um quadro nacional.
A OpenAI defendeu que quaisquer requisitos federais de segurança devem aplicar-se apenas ao pequeno número de empresas que desenvolvem os modelos mais poderosos, e não a “startups, pequenos programadores ou investigadores que trabalham longe da fronteira tecnológica”.