Desenvolvimento da IA deve abrandar, alertam grandes empresas do setor, numa altura em que crescem pedidos para pôr segurança à frente dos lucros. Declarações penalizaram ações tecnológicas na segunda-feira.
As ações do conglomerado japonês de investimento SoftBank Group, um dos principais investidores da OpenAI, caíram mais de 10% esta segunda-feira, a par de outras ações tecnológicas, depois de responsáveis de algumas das maiores empresas de inteligência artificial terem apoiado apelos para dar prioridade à “cautela em vez da velocidade e à prudência em vez do lucro”.
PUBLICIDADE
PUBLICIDADE
A expressão foi usada pelo diretor executivo da Anthropic, Dario Amodei, que no sábado apelou a que as empresas de IA “abrandem a vanguarda”, através de uma desaceleração coordenada no desenvolvimento dos seus modelos mais avançados, permitindo ganhar tempo para compreender e gerir os riscos.
Entre as principais preocupações está o chamado “autoaperfeiçoamento recursivo”, em que sistemas de IA ajudam a construir a geração seguinte de modelos.
“Se não for travado, pode ultrapassar a nossa capacidade de compreender e controlar estes sistemas e, por isso, tem de ser prosseguido com muita cautela, se é que deve ser prosseguido”, escreveu Amodei.
O diretor executivo da OpenAI, Sam Altman, e o diretor executivo da xAI, Elon Musk, apoiaram publicamente o alerta, com Musk a afirmar: “O Dario tem razão.”
Altman disse também, numa entrevista à revista Fortune publicada no sábado, que a OpenAI não avançará com uma oferta pública inicial (IPO) este ano, numa altura em que a empresa se concentra na segurança.
A OpenAI e a Anthropic permanecem em mãos privadas. A Anthropic estará a preparar-se para uma eventual entrada em bolsa nos próximos meses.
Os comentários surgiram na sequência da demissão do investigador da Anthropic Jacob Coxon, que advertiu que a tecnologia pode escapar ao controlo humano.
Evan Hubinger, outro investigador da Anthropic que permanece na empresa, escreveu posteriormente: “Acreditamos mesmo, com toda a seriedade, que a IA pode matar todos os seres humanos!” Disse acreditar que a probabilidade é superior a 10% na próxima década.
O presidente dos EUA, Donald Trump, rejeitou os alertas no domingo, classificando os críticos da IA como “forças muito negativas” e afirmando que os cenários levantados não se irão concretizar. O presidente da Câmara dos Representantes, Mike Johnson, também apelou às pessoas para não entrarem em pânico.
Ainda assim, os investidores venderam ações tecnológicas esta segunda-feira.
A queda da SoftBank “provavelmente reflete a possibilidade de o desenvolvimento da IA ser travado pelos reguladores para tentar evitar os piores cenários de que a Anthropic e a OpenAI têm falado”, afirmou Dan Baker, da empresa de análise de investimentos Morningstar.
“E talvez [também] espelhe a possibilidade de quaisquer novos exemplos de perda de controlo sobre modelos mais recentes de IA poderem igualmente abrandar o desenvolvimento da tecnologia”, acrescentou.
Outras ações ligadas à IA na Ásia também recuaram. A fabricante sul-coreana de chips de memória SK Hynix perdeu 5,3%, enquanto a Samsung Electronics caiu 2,8%. A japonesa Tokyo Electron, produtora de equipamento para fabrico de chips, desceu 0,9% e a fabricante de memórias Kioxia Holdings afundou 6%.
China na corrida à IA
Amodei defendeu também restrições mais apertadas ao acesso da China a chips avançados de IA e a equipamento de fabrico de semicondutores, argumentando que esses componentes irão determinar em grande medida as capacidades de IA do país.
No entanto, reconheceu à CBS News que o “maior dilema” é o facto de a China poder não aderir a uma desaceleração coordenada.
O jornal oficial chinês Global Times descreveu a sua posição como “míope” e acusou-o de tentar travar o desenvolvimento da China através de uma “Guerra Fria da IA”. Entretanto, o presidente Xi Jinping propôs uma zona de IA de código aberto dos BRICS para aprofundar a cooperação em modelos de IA e formação.