A decisão surge após semanas de fortes críticas, depois de se saber que os modelos do gigante da IA quebraram limites nos testes e invadiram sites comerciais e governamentais, reforçando os apelos a mais medidas de segurança na IA
A OpenAI anunciou na noite de segunda-feira que ia adiar o lançamento de um novo modelo de inteligência artificial devido a preocupações de segurança manifestadas pelos seus investigadores, mais um passo nos esforços da empresa para abrandar o rápido avanço desta tecnologia.
PUBLICIDADE
PUBLICIDADE
A decisão da OpenAI de não disponibilizar para já o novo modelo, chamado GPT-6.1 Astra, surge num contexto de pressão mais ampla na indústria para travar o desenvolvimento de sistemas cada vez mais autónomos até que as medidas de segurança consigam acompanhar.
O anúncio foi feito um dia antes de responsáveis de empresas de IA se reunirem com o Presidente dos Estados Unidos, Donald Trump, em Washington, numa altura em que as empresas de tecnologia enfrentam nova pressão para assumirem responsabilidades pela forma como os seus modelos podem ser usados de forma abusiva.
Num comunicado da responsável pelos sistemas de segurança da OpenAI, Saachi Jain, a versão “não cumpria totalmente o nível exigido”. O sistema tinha-se tornado mais persistente na conclusão de tarefas, mas a OpenAI precisava de equilibrar essa capacidade com o risco de comportamentos não autorizados.
Jain assegurou que a empresa está empenhada em garantir que o modelo é seguro, tanto nos testes internos como nas mãos dos utilizadores.
“Temos uma fasquia extremamente elevada em termos de segurança e alinhamento”, afirmou.
A OpenAI suspendeu na semana passada o treino dos seus modelos mais avançados, afirmando que o retomaria “apenas quando tivermos confiança de que dispomos de salvaguardas adicionais”.
A decisão foi tomada depois de a empresa ter revelado casos em que agentes de IA ultrapassaram as instruções recebidas, incluindo o acesso não autorizado a sites governamentais.
No início desta semana, foi divulgado que um agente da OpenAI pirateou um site do Governo australiano em junho e acedeu a dados privados, um incidente que especialistas classificaram como o primeiro do género e um sinal concreto de progresso em direção à superinteligência.
O diretor executivo da OpenAI, Sam Altman, juntou-se a outros líderes da indústria, incluindo o principal rival, o diretor executivo da Anthropic, Dario Amodei, ao apelar a um abrandamento, alertando que as empresas ainda não dispõem de salvaguardas adequadas para controlar os sistemas mais avançados criados pela humanidade.
Altman tinha previsto fazer o discurso principal na conferência anual da OpenAI para programadores de software, em São Francisco, esta terça-feira.
Espera-se que o presidente da OpenAI, Greg Brockman, participe no evento da Casa Branca esta terça-feira, em substituição de Altman.