Cofundador da Anthropic, Jack Clark disse que agentes de IA poderão em breve construir e treinar modelos sozinhos e que, se isso acontecer, humanos poderão perder o controlo dos sistemas de IA.
O cofundador da Anthropic Jack Clark quer que o setor da inteligência artificial pise o travão antes de a tecnologia começar a desenvolver-se ainda mais por conta própria, sem intervenção humana.
PUBLICIDADE
PUBLICIDADE
Em declarações à BBC, Clark afirmou que 80% do trabalho de programação da Anthropic já é feito pela sua IA Claude e que essa percentagem poderá chegar aos 100% dentro de alguns anos. Mas sublinhou que “é uma escolha” deixar que as empresas de IA permitam que se chegue tão longe sem travar.
“Achamos que este é um tema sobre o qual o mundo devia falar mais”, disse Clark. “A indústria da IA tem neste momento um pedal de acelerador, mas não tem um pedal de travão no carro, e queremos fazer parte do trabalho necessário para construir esse pedal.”
Este processo chama-se “autoaperfeiçoamento recursivo”, em que uma IA consegue melhorar-se a si própria sem intervenção humana, explicou a Anthropic num artigo relacionado no blogue (fonte em inglês) publicado na noite de quinta-feira.
Num modelo recursivo, os agentes de IA, trabalhadores autónomos criados por um chatbot, podem “tornar-se suficientemente capazes para construir e treinar eles próprios modelos”, pelo que Claude “poderia ser continuamente melhorado por Claude”, explicou a Anthropic.
Embora uma IA recursiva possa trazer benefícios para áreas como a ciência e a saúde, a Anthropic avisa que isso também pode aumentar “os riscos de os seres humanos perderem o controlo sobre sistemas de IA”.
“Se os sistemas forem capazes de construir totalmente os seus próprios sucessores, as formas como os protegemos, vigiamos e moldamos o seu comportamento tornam-se muito mais importantes”, lê-se no texto do blogue.
Há sinais, no próprio modelo da Anthropic, de que a recursividade poderá chegar mais cedo do que tarde. A empresa destaca que as taxas de correção de código pela sua equipa têm diminuído de forma constante no último ano, o que significa que há menos erros no que Claude produz.
Claude consegue também realizar as suas próprias experiências de investigação quando recebe uma pergunta em aberto, como “Um modelo mais fraco pode supervisionar um modelo mais forte?”, e encontrar soluções por iniciativa própria, sem intervenção humana.
“As provas sugerem que o papel dos humanos está a encolher em cada etapa do processo de desenvolvimento de IA”, lê-se no blogue.
A Anthropic adiantou que o seu instituto vai realizar investigação para criar um sistema que verifique se os desenvolvedores estão, de facto, a parar ou a abrandar o avanço em direção a uma IA recursiva.
No entanto, alertou que um abrandamento real exigiria que “vários laboratórios bem financiados, na linha da frente ou perto dela, em vários países, aceitassem parar sob as mesmas condições”.