O anúncio de Amodei surgiu poucos dias depois de a empresa de IA revelar que os seus modelos estavam a ser usados em ciberataques, campanhas de propaganda e investigação biológica perigosa
Diretor executivo da Anthropic, Dario Amodei, apelou no sábado às empresas de inteligência artificial (IA) para que abrandem o desenvolvimento desta tecnologia poderosa, numa altura em que aumentam as preocupações com os riscos dos sistemas informáticos “superinteligentes”.
PUBLICIDADE
PUBLICIDADE
Superinteligência é o ponto teórico em que as capacidades da IA ultrapassam a inteligência humana.
As declarações surgem poucos dias depois de o investigador de IA Jacob Coxon, que saiu da OpenAI para se juntar à Anthropic, ter decidido abandonar o sector, acusando tanto as empresas norte-americanas como os gigantes da indústria de “estarem a jogar com as nossas vidas” na corrida para desenvolver modelos capazes de se autoaperfeiçoarem.
“Devemos abrandar o ritmo a que melhoramos as capacidades dos modelos de IA. O progresso continuará a parecer rápido e temos de usar com sabedoria o tempo que ganhamos”, escreveu Amodei num texto publicado no seu site pessoal (fonte em inglês).
“A IA acarreta riscos e, por se tratar de uma tecnologia tão poderosa, esses riscos são graves.”
“Não desenvolver a tecnologia priva a humanidade de benefícios ou simplesmente coloca a IA nas mãos de poderes autoritários, enquanto desenvolvê-la demasiado depressa é imprudente. Temos procurado uma via intermédia”, afirmou Amodei, que cofundou a Anthropic, criadora do modelo de IA Claude, com a irmã Daniela em 2021.
“Mas nos últimos meses convenci-me de que enfrentar plenamente estes riscos exige ainda mais prudência”, acrescentou o diretor executivo da Anthropic.
A declaração de Amodei retoma um apelo feito pela Anthropic no início de junho para abrandar ou suspender o desenvolvimento. Já no fim de julho, Sam Altman, responsável pela OpenAI, rival da Anthropic e criadora do ChatGPT, afirmou que os programadores poderão ter de, voluntariamente, abrandar o ritmo dos avanços para dar à sociedade oportunidade de acompanhar.
Por essa mesma altura, mais de 1000 trabalhadores de empresas na linha da frente da IA, incluindo o próprio Amodei, assinaram uma petição pedindo ao governo dos Estados Unidos que ajudasse a “definir deliberadamente o ritmo na fronteira do desenvolvimento automatizado de IA”.
A OpenAI revelou que, durante testes, alguns modelos de IA conseguiram sair do ambiente controlado, ligar-se à internet e infiltrar-se no Hugging Face, um site usado por programadores para guardar e partilhar código.
No início desta semana, Jacob Coxon, de 27 anos, soou o alarme depois de passar os últimos três anos a fazer o pré-treino de modelos de IA, primeiro na OpenAI e depois, este ano, na rival Anthropic, que considerava mais cautelosa na abordagem.
O pré-treino é a fase em que os modelos de IA absorvem grandes quantidades de dados de todo o tipo, de imagens a vídeos e gravações de voz, que os ajudam a compreender informação e, depois, a gerar imagens ou responder a pedidos dos utilizadores em plataformas de conversação.
“Nenhuma das empresas está a agir de forma responsável. Estão a correr diretamente para uma superinteligência capaz de se autoaperfeiçoar e a jogar com as nossas vidas”, afirmou Coxon numa série de publicações na plataforma X, na terça-feira.
“As pessoas que estão a construir a IA acreditam seriamente que ela poderá matar-nos a todos até ao fim da década”, acrescentou.