Documentação da IPO da empresa de IA alerta para riscos de sistemas cada vez mais autónomos e desafios financeiros e regulatórios
Sistemas de IA fora de controlo, ciberataques e a possibilidade de usar inteligência artificial para desenvolver armas perigosas estão entre os riscos que a Anthropic revelou aos investidores, numa altura em que se prepara para a estreia em bolsa.
PUBLICIDADE
PUBLICIDADE
Das 335 páginas com informação sobre as finanças da Anthropic, remuneração dos executivos, política de dividendos e outros detalhes, 93 páginas são dedicadas aos “fatores de risco” — aspetos que podem prejudicar o investimento dos potenciais acionistas. No prospeto da rival SpaceX, por comparação, os fatores de risco ocupam 38 de mais de 250 páginas.
Estas divulgações são exigidas no âmbito do processo de oferta pública inicial (IPO), dando aos potenciais investidores uma imagem mais clara dos riscos que assumem ao comprar ações da empresa.
Ao apresentar-se aos investidores, a Anthropic descreve a sua própria oferta pública inicial como um passo para mitigar os riscos que considera que a IA representa.
“Construir IA é dominar a própria cognição e qualquer coisa tão poderosa pode ser usada para o mal, bem como para o bem”, escrevem os fundadores da empresa numa carta aos futuros acionistas incluída no prospeto da IPO. “A Anthropic é uma organização profundamente orientada por valores, criada em grande medida para ajudar o mundo a concretizar os benefícios da IA e a evitar os seus perigos.”
Ainda assim, os riscos são muitos. Vão desde os mais prosaicos — a possibilidade de não conseguir reter quadros-chave ou de não ultrapassar entraves regulatórios — até ao envolvimento em ciberataques e à disseminação de desinformação perigosa.
Segue-se um olhar sobre alguns dos riscos detalhados pela Anthropic:
Evolução acelerada da tecnologia
A Anthropic admite que é possível que os seus modelos se desenvolvam tão rapidamente que a empresa não consiga aplicar medidas de segurança adequadas, “o que poderá aumentar a probabilidade de incidentes de segurança, intervenção regulatória ou danos de reputação e afetar negativamente o nosso negócio”.
Em setembro, o presidente executivo da Anthropic, Dario Amodei, alertou que, dentro de seis a doze meses, a IA poderá ser capaz de liderar um enxame de agentes capaz de assumir o controlo de toda a internet. O alerta, e agora a decisão da Anthropic de vender ações, surge numa altura de preocupação crescente, dentro e fora do setor, com sistemas cada vez mais poderosos que conseguem resolver problemas para lá da capacidade humana, mas que também podem agir de forma autónoma para executar tarefas prejudiciais.
À medida que os sistemas de IA “se tornam mais autónomos e capazes de tomar ações com consequências importantes com menos supervisão humana”, refere o documento enviado à SEC, existe o risco de esses sistemas “tomarem medidas prejudiciais de forma independente e em grande escala, sem intervenção humana”.
“Mesmo que os nossos próprios modelos não causem tais danos, um incidente de segurança significativo envolvendo qualquer sistema avançado de IA poderá desencadear danos generalizados na reputação do setor, uma reação negativa do público e respostas regulatórias amplas que podem afetar negativamente o nosso negócio”, afirma a Anthropic.
Agora que os próprios modelos de IA já contribuem para a investigação e desenvolvimento da Anthropic, é possível que a tecnologia avance “para além da nossa capacidade de avaliar e proteger novos modelos”, lê-se ainda no documento. Isto poderá prejudicar a atividade da empresa.
Atores maliciosos podem provocar o caos com a tecnologia
O prospeto aborda a preocupação de que sistemas de IA avançados, se não forem desenvolvidos e operados com salvaguardas e supervisão suficientes, “possam representar riscos catastróficos ou existenciais para a humanidade, sobretudo se forem mal utilizados, replicados, transformados em armas ou deixados a operar com um elevado grau de autonomia”.
A empresa afirma que será penalizada se o uso por atores mal-intencionados causar danos “ou se os nossos mecanismos de proteção e salvaguardas falharem em impedir tal utilização indevida”.
A Anthropic traça o cenário de atores maliciosos a usar modelos de IA para construir armas químicas ou de dirigentes autoritários a recorrer à tecnologia para reprimir os seus cidadãos. Em setembro, a empresa revelou que bloqueou tentativas de utilização dos seus modelos de IA para atividades maliciosas, como ciberataques, vigilância e investigação que poderia ter conduzido ao desenvolvimento de armas biológicas.
Empresa pode esbarrar em limites de capacidade de processamento
A capacidade de computação — os recursos informáticos necessários para criar, testar e melhorar modelos de IA — é cara e está muito disputada. A Anthropic assinala que, se não conseguir garantir capacidade de computação suficiente, ou se “não conseguirmos direcionar de forma eficaz a nossa capacidade de computação pelos diferentes trabalhos, poderemos não ser capazes de treinar modelos que se mantenham competitivos face aos dos concorrentes ou de servir adequadamente os nossos clientes”.
A Anthropic menciona ainda a oposição das comunidades locais a centros de dados como um risco para o negócio. O desenvolvimento destes centros “tem suscitado controvérsia pública e escrutínio regulatório quanto ao impacto ambiental, à utilização de terrenos e água e à afetação de recursos energéticos limitados”, refere o documento, acrescentando que, se os reguladores impuserem novos requisitos ou taxas, a capacidade da empresa para operar poderá ser afetada.
Além disso, a empresa depende de um número reduzido de clientes, entre eles a SpaceX e a Microsoft, e de alguns canais de distribuição para uma parte substancial das suas receitas. Isto significa que, mesmo que apenas um dos grandes clientes decida reduzir a sua atividade — ou deixar totalmente de trabalhar com a empresa —, a Anthropic admite que poderá ver as suas perspetivas e finanças afetadas.
Reduzir os riscos
De certa forma, o enorme risco associado à IA, combinado com o seu enorme potencial, é o principal argumento de venda da Anthropic. A empresa tenta posicionar-se como um operador responsável de IA e procura atrair clientes empresariais sublinhando a preocupação com a segurança.
“Acreditamos que as empresas que desenvolvem IA de fronteira devem investir em segurança e alinhamento para ajudar a garantir uma difusão responsável desta tecnologia”, lê-se no prospeto.
Brian Mulberry, estratega-chefe de mercado na Zacks Investment Research, lembra que as operações de IPO têm de apresentar “de forma muito clara” os riscos que as pessoas enfrentam ao investir o seu dinheiro numa empresa recém-chegada à bolsa.
“Uma das grandes vantagens dos nossos mercados de capitais, aqui nos Estados Unidos, é o nível de transparência a que é obrigatório aderir: para ser uma empresa cotada numa bolsa norte-americana é preciso descrever esses riscos de forma muito clara, para que as pessoas percebam se querem participar, disponibilizando o fruto do seu trabalho e ajudando a financiar este tipo de operação”, afirmou.