O anúncio de Amodei surgiu dias depois de a empresa de IA revelar que os seus modelos estavam a ser usados em ciberataques, campanhas de propaganda e investigação biológica perigosa
Apelou no sábado o diretor executivo da Anthropic, Dario Amodei, às empresas de inteligência artificial (IA) para que abrande o desenvolvimento desta tecnologia poderosa, numa altura em que aumentam as preocupações com os riscos de sistemas informáticos “superinteligentes”.
PUBLICIDADE
PUBLICIDADE
Superinteligência é o ponto teórico em que as capacidades da IA ultrapassam a inteligência humana.
As declarações surgem poucos dias depois de Jacob Coxon, investigador em IA que saiu da OpenAI para se juntar à Anthropic, ter decidido abandonar o setor, acusando tanto empresas norte-americanas como gigantes da indústria de “jogarem com as nossas vidas” na corrida para desenvolver modelos capazes de se autoaperfeiçoar.
“Temos de abrandar o ritmo a que melhoramos as capacidades dos modelos de IA. O progresso continuará a parecer rápido e temos de usar com prudência o tempo que ganharmos”, escreveu Amodei num artigo no seu site pessoal (fonte em inglês).
“A IA traz riscos e, por se tratar de uma tecnologia tão poderosa, esses riscos são graves.”
“Não desenvolver a tecnologia priva a humanidade de benefícios ou limita-se a colocar a IA nas mãos de poderes autoritários, enquanto desenvolvê-la demasiado depressa é imprudente. Procurámos uma via intermédia”, afirmou Amodei, que cofundou a Anthropic, responsável pelo modelo de IA Claude, com a irmã Daniela em 2021.
“Mas, nos últimos meses, fiquei convencido de que, para responder plenamente aos riscos, é necessária ainda mais prudência”, acrescentou o diretor executivo da Anthropic.
A declaração de Amodei retoma um apelo feito pela Anthropic no início de junho para desacelerar ou suspender o desenvolvimento. Já no final de julho, Sam Altman, responsável pela rival OpenAI – criadora do ChatGPT –, afirmou que os desenvolvedores poderão ter de, voluntariamente, abrandar os rápidos avanços para dar à sociedade oportunidade de acompanhar.
Por essa mesma altura, mais de mil funcionários de empresas de IA de ponta, incluindo o próprio Amodei, assinaram uma petição que insta o governo dos Estados Unidos a ajudar a “regular deliberadamente a fronteira do desenvolvimento automatizado de IA”.
A OpenAI revelou que, durante testes, os modelos de IA conseguiram sair do ambiente controlado, ligar-se à internet e infiltrar-se no Hugging Face, um site usado por programadores para armazenar e partilhar código.
No início desta semana, Jacob Coxon, de 27 anos, lançou o alerta depois de ter passado os últimos três anos a fazer o pré-treino de modelos de IA, primeiro na OpenAI e, este ano, na rival Anthropic, que considerava ter uma abordagem mais cautelosa.
O pré-treino é a fase em que os modelos de IA absorvem grandes quantidades de dados de todo o tipo, de imagens a vídeos e registos de voz, que os ajudam a compreender informação para, mais tarde, conseguirem gerar imagens ou responder a pedidos dos utilizadores em plataformas de chat.
“Nenhuma das empresas está a agir de forma responsável. Estão numa corrida direta para uma superinteligência autoaperfeiçoável e a jogar com as nossas vidas”, afirmou Coxon numa sequência de publicações na plataforma X, na terça-feira.
“As pessoas que estão a construir a IA acreditam seriamente que ela pode matar-nos a todos até ao final da década”, acrescentou.