O anúncio de Amodei surgiu poucos dias depois de a empresa de IA revelar que os seus modelos eram usados em ciberataques, campanhas de propaganda e investigação biológica perigosa
O presidente executivo da Anthropic, Dario Amodei, apelou no sábado às empresas de inteligência artificial (IA) para que abrandem o desenvolvimento desta tecnologia poderosa, numa altura em que crescem as preocupações com os riscos de sistemas informáticos “superinteligentes”.
PUBLICIDADE
PUBLICIDADE
Superinteligência é o ponto teórico em que as capacidades da IA ultrapassam a inteligência humana.
Estas declarações surgem poucos dias depois de o investigador em IA Jacob Coxon, que saiu da OpenAI para se juntar à Anthropic, ter decidido abandonar o sector, acusando as duas empresas norte-americanas e outros gigantes da indústria de “jogarem com as nossas vidas” na corrida para desenvolver modelos capazes de se aperfeiçoarem autonomamente.
“Temos de abrandar o ritmo a que melhoramos as capacidades dos modelos de IA. O progresso continuará a parecer rápido e temos de usar de forma sensata o tempo que ganhamos”, escreveu Amodei numa publicação no seu site pessoal (fonte em inglês).
“A IA traz riscos e, por se tratar de uma tecnologia tão poderosa, esses riscos são graves.”
“Não desenvolver a tecnologia priva a humanidade de benefícios ou simplesmente coloca a IA nas mãos de poderes autoritários, enquanto desenvolvê-la demasiado depressa é imprudente. Temos procurado um caminho intermédio”, afirmou Amodei, que cofundou a Anthropic, criadora do modelo de IA Claude, com a irmã Daniela, em 2021.
“Mas, nos últimos meses, convenci-me de que enfrentar plenamente estes riscos exige ainda mais prudência”, acrescentou o presidente executivo da Anthropic.
As declarações de Amodei retomam um apelo feito pela Anthropic no início de junho para abrandar ou suspender o desenvolvimento. Já no final de julho, Sam Altman, líder da rival OpenAI – criadora do ChatGPT –, afirmou que os programadores poderão ter de travar voluntariamente o ritmo acelerado dos avanços para dar à sociedade a oportunidade de acompanhar.
Por essa mesma altura, mais de 1000 trabalhadores de empresas de ponta em IA, incluindo o próprio Amodei, assinaram uma petição apelando ao governo norte-americano para que ajude a “definir de forma deliberada o ritmo na fronteira do desenvolvimento automatizado de IA”.
A OpenAI revelou que, durante testes, os modelos de IA escaparam ao ambiente controlado, ligaram-se à internet e infiltraram-se no Hugging Face, um site usado por programadores para guardar e partilhar código.
Mais cedo esta semana, Jacob Coxon, de 27 anos, lançou o alerta depois de ter passado os últimos três anos a pré-treinar modelos de IA, primeiro na OpenAI e depois, este ano, na rival Anthropic, que considerava mais cautelosa na sua abordagem.
Pré-treino é a fase em que os modelos de IA absorvem grandes quantidades de dados de todos os tipos, de imagens a vídeos e gravações de voz, que os ajudam a compreender informação para, depois, conseguirem gerar imagens ou responder a pedidos dos utilizadores em plataformas de conversação.
“Nenhuma das empresas está a agir de forma responsável. Estão a correr diretamente para uma superinteligência capaz de se aperfeiçoar e a jogar com as nossas vidas”, afirmou Coxon numa série de publicações na plataforma X, na terça-feira.
“As pessoas que estão a construir a IA acreditam seriamente que ela pode matar-nos a todos até ao final da década”, acrescentou.