Anthropic diz que o seu modelo de IA mais potente, Mythos, é demasiado perigoso para o público e desencadeia conversações urgentes com governos e reguladores financeiros.
A Anthropic está em conversações com o governo dos EUA sobre o seu novo modelo de IA Mythos, que a empresa diz ser demasiado poderoso para disponibilizar ao público, por representar riscos de cibersegurança sem precedentes.
PUBLICIDADE
PUBLICIDADE
O setor bancário também lança alertas.
“O governo tem de estar a par destas questões”, afirmou na segunda-feira o cofundador da Anthropic, durante o evento Semafor World Economy, em Washington.
“Sem dúvida, estamos a falar com eles sobre o Mythos e falaremos também sobre os próximos modelos”, acrescentou.
Aludindo à disputa pública com o governo, que levou a que a empresa fosse classificada no mês passado como risco para a cadeia de fornecimento, afirmou: “Não quero que isso prejudique o facto de nos preocuparmos profundamente com a segurança nacional.”
A classificação como risco de cadeia de fornecimento surgiu após o colapso das negociações sobre a tentativa da Anthropic de limitar a forma como o Departamento de Defesa dos EUA pode utilizar os seus modelos de IA.
A iniciativa surge depois de o secretário do Tesouro, Scott Bessent, ter convocado na semana passada, em Washington, uma reunião de altos responsáveis de bancos norte-americanos para discutir o modelo Mythos.
A reunião incentivou os responsáveis do setor bancário a utilizarem o modelo Mythos da Anthropic para detetar vulnerabilidades, segundo a Bloomberg (fonte em inglês).
Anthropic afirmou ainda que vai limitar o acesso ao novo modelo de IA a algumas empresas de tecnologia e de cibersegurança. Entre as empresas estão a Amazon, a Apple e o JP Morgan Chase.
Segundo a Bloomberg, também o Goldman Sachs, o Citigroup, o Bank of America e o Morgan Stanley estarão a testar o modelo da Anthropic.
Na segunda-feira, o Instituto Governamental de Segurança em IA do Reino Unido (AISI) alertou que o Mythos representa um salto em relação aos modelos anteriores, no tipo de ameaça cibernética que coloca.
Entretanto, o Financial Times noticiou que os reguladores financeiros britânicos estão igualmente a discutir os potenciais riscos do Mythos.