Trabalhadores da OpenAI, Anthropic, Google e Meta AI assinaram a petição após um grande escândalo de pirataria com IA autónoma.
Mais de mil funcionários de empresas líderes em inteligência artificial assinaram, na terça-feira, uma petição a instar o governo dos Estados Unidos a tomar medidas para “regular de forma deliberada” o desenvolvimento da inteligência artificial.
PUBLICIDADE
PUBLICIDADE
Entre os signatários contam-se o diretor-executivo da Anthropic, o responsável pela investigação na OpenAI, o líder estratégico da DeepMind, a subsidiária de IA da Google, e o cientista-chefe da Meta AI.
A petição (fonte em inglês) apela para que “o governo dos EUA apoie um esforço internacional para desenvolver as ferramentas técnicas e de governação necessárias para controlar de forma deliberada a fronteira do desenvolvimento automatizado de IA”.
“As principais empresas de IA do mundo acreditam que podem estar perto de automatizar a investigação em IA. É difícil prever exatamente até que ponto isso vai acelerar o progresso da IA, mas existe um risco real de que o desenvolvimento de capacidades acelere rapidamente para além da nossa capacidade de compreender ou controlar os sistemas resultantes”, lê-se na petição.
O apelo surge na sequência de um recente incidente de segurança, depois de modelos de IA de fronteira terem conduzido um ciberataque autónomo, escapando ao ambiente controlado de “sandbox” em que o teste deveria ter sido realizado e infiltrando-se nos servidores da plataforma de partilha de código Hugging Face.
Sam Altman, diretor-executivo da OpenAI, que não assinou a petição, afirmou, numa entrevista ao podcast “Invest Like the Best” na terça-feira, que os desenvolvedores de inteligência artificial podem ter de abrandar voluntariamente o ritmo dos avanços para dar tempo à sociedade para se adaptar.
“Este é o primeiro tipo de incidente de segurança que senti de forma muito visceral”, disse Altman no podcast “Invest Like the Best” na terça-feira, acrescentando que estava “um pouco surpreendido” por não haver mais pessoas a ter reações semelhantes.
Não foi a primeira vez que um modelo de IA operou para além do controlo dos seus desenvolvedores, mas o incidente mais recente foi amplamente visto como particularmente preocupante.
Singularidade da IA: já lá chegámos?
Dias antes, numa entrevista ao podcast Relentless, Altman afirmou que se chegou a um ponto em que a inteligência artificial ultrapassa a inteligência humana e começa a avançar mais depressa do que as pessoas conseguem prever ou controlar, o chamado “ponto de singularidade”.
Altman recordou que, há uma década, a singularidade era um tema distante, meio em tom de brincadeira, nas conversas de almoço entre colegas, mas que isso mudou.
Mais tarde, na mesma intervenção, Altman contrariou vários líderes da área da IA que têm alertado para os perigos da tecnologia, sem mencionar diretamente a Anthropic, embora o seu diretor-executivo, Dario Amodei, seja conhecido por esses avisos.
Disse que tenciona contrariar ativamente aquilo a que chamou visões alternativas “aterradoras” sobre o futuro da IA.