Críticos receiam que as conclusões sobre riscos que vão dos ciberataques às armas biológicas sejam suavizadas para agradar à indústria tecnológica.
O organismo governamental dos Estados Unidos que testa a segurança de sistemas avançados de inteligência artificial está sem liderança permanente e deixou de publicar a sua investigação, segundo a Associated Press.
PUBLICIDADE
PUBLICIDADE
Dois antigos responsáveis governamentais disseram à agência noticiosa que os funcionários do Center for Advancing Innovation and Standards for Super Intelligence (CAISSI), que integra o Departamento do Comércio, foram recentemente instruídos a reportar informalmente a um gabinete da Casa Branca.
Críticos afirmam que a mudança pode politizar o trabalho do centro. Alertam que as suas conclusões podem ser atenuadas para agradar às empresas de IA, que em grande medida têm ficado responsáveis por se auto-regular.
Caroline Siegel Singh, da Federation of American Scientists, disse que o objetivo era que “peritos tecnocratas não partidários ou bipartidários” moldassem as políticas de acordo com o interesse público.
Outros defendem que laços mais estreitos com o presidente Donald Trump podem aumentar a visibilidade do centro e garantir mais financiamento. O CAISSI recebe 10 milhões de dólares (8.94 milhões de euros) por ano, cerca de um oitavo do orçamento do organismo homólogo no Reino Unido.
Em contraste, o Gabinete de IA da UE, que está integrado na Comissão Europeia e desde agosto tem poderes para multar os desenvolvedores dos modelos de IA mais avançados, emprega mais de 125 pessoas e, segundo informações, está a recrutar mais 40 funcionários.
Sem líder, sem relatórios, sem supervisão
O CAISSI tem tido dificuldade em manter uma liderança. Collin Burns, antigo investigador da Anthropic, foi afastado do cargo de diretor ao fim de apenas quatro dias em abril, alegadamente devido às suas ligações à empresa.
O seu sucessor, Chris Fall, demitiu-se três meses depois.
Arvind Raman, que lidera o organismo-mãe do centro, o National Institute of Standards and Technology, é agora diretor interino. Em agosto, o Congresso questionou porque é que o centro tinha deixado de divulgar os seus relatórios de segurança.
Em setembro, Trump apelou às empresas de IA que assumissem um compromisso de “auto-regulação tremenda” no âmbito de um pacto voluntário, mas a sua administração não explicou como irá verificar o cumprimento desse compromisso.
A Casa Branca não respondeu às perguntas sobre o CAISSI. Em vez disso, remeteu para a nova Super Intelligence Force de Trump, liderada pelo diretor de Inteligência Nacional Jay Clayton.
Amos Toh, do Brennan Center for Justice, disse à AP que tratar a segurança da IA como uma questão de segurança nacional implica o risco de pôr de lado a proteção dos consumidores, a privacidade e os direitos civis.
“Todas estas decisões têm uma enorme importância pública e deveriam ser explicadas e justificadas perante a opinião pública”, afirmou Toh. “E isso não está a acontecer.”