Anthropic afirma que o chatbot Claude já lidera mais de um quarto da I&D da empresa, enquanto crescem receios de que a IA evolua mais depressa do que os humanos conseguem acompanhar.
A gigante da inteligência artificial Anthropic afirmou esta quinta-feira que os sistemas de IA estão cada vez mais capazes de construir versões futuras de si próprios, o que agrava as preocupações crescentes sobre os perigos desta tecnologia poderosa.
PUBLICIDADE
PUBLICIDADE
O debate sobre os riscos da IA intensificou-se nos últimos meses, alimentado por vários incidentes e por alertas de tom apocalíptico vindos de profissionais do sector.
A Anthropic indicou que o seu chatbot Claude já lidera mais de um quarto do trabalho de investigação e desenvolvimento e colabora com funcionários humanos em mais de 90% das tarefas.
A empresa explicou que está a divulgar estes dados para dar ao público, a terceiros e aos governos “uma melhor visibilidade sobre o ritmo de desenvolvimento da IA”, numa altura em que o mundo “pondera abrandá-lo”.
O diretor executivo da Anthropic, Dario Amodei, apelou este mês a que o desenvolvimento da IA abrande, uma vez que os avanços rápidos na tecnologia alimentam receios de perda de empregos, aumento acentuado da procura de energia e impacto ambiental dos centros de dados.
Os receios de que os criadores de agentes de IA possam perder o controlo das suas próprias ferramentas também aumentaram depois de vários modelos da Anthropic e da rival OpenAI terem, alegadamente, escapado por iniciativa própria dos ambientes confinados, acedido à internet e interferido em sites e plataformas.
“Modelos que aceleram o seu próprio desenvolvimento podem tornar mais difícil para os humanos compreenderem ou controlarem estes sistemas”, afirmou a Anthropic num relatório.
“É por isso importante partilhar estas métricas, para perceber quão perto o mundo está de alcançar a autoaperfeiçoamento recursivo (um modelo que constrói totalmente de forma autónoma o seu sucessor).”
Em agosto, Claude liderava 26% da investigação e desenvolvimento da Anthropic, o que significa que consegue realizar a maior parte de uma tarefa do princípio ao fim, com supervisão humana.
A Anthropic sublinhou que Claude ainda não consegue funcionar “de forma totalmente autónoma”.
A empresa indicou que dispõe de cerca de 30 000 agentes de IA a realizar trabalho de investigação e engenharia, referindo-se a bots com potencial para executar tarefas.
Espera-se que a Anthropic se antecipe à OpenAI nos mercados públicos com uma oferta pública inicial de grande dimensão ainda este ano, apesar das preocupações em torno da regulação do sector.