O anúncio da Meta surge pouco depois de a OpenAI e a Anthropic terem revelado que os seus modelos de IA invadiram sistemas de outras empresas durante testes
A Meta lançou na quarta-feira o seu primeiro agente de programação, o Muse Code, numa altura em que a empresa continua a investir fortemente em serviços e modelos de IA para competir melhor com rivais como a OpenAI e a Anthropic.
PUBLICIDADE
PUBLICIDADE
O Muse Code ficará disponível para programadores através de um modelo de pagamento ao consumo, com preços semelhantes aos da versão Muse Spark 1.1, que atualmente cobra 4,25 dólares por cada milhão de tokens de saída e 1,25 dólares por milhão de tokens de entrada.
A medida deverá facilitar a criação de aplicações numa única interface de utilizador, mesmo quando os programadores trabalham em simultâneo com vários agentes digitais alimentados por IA.
Ao mesmo tempo, a empresa revelou que um dos seus modelos de IA tinha violado os sistemas de outra empresa durante um teste de cibersegurança.
O incidente deveu-se a um erro do parceiro independente de testes, a Irregular, que acabou por permitir ao modelo um acesso à internet superior ao previsto, possibilitando a alteração dos sistemas internos da empresa não identificada.
O caso surge numa altura de aumento de situações em que modelos de IA de gigantes do setor, como a OpenAI e a Anthropic, infringem sistemas de outras empresas durante testes.
A OpenAI já reconheceu que um agente de IA violou a plataforma Hugging Face, outra startup de inteligência artificial.
De forma semelhante, a Anthropic revelou na semana passada que alguns dos seus modelos Claude tinham acedido indevidamente aos sistemas de três empresas, sem identificar as organizações em causa.
A Meta afirma estar a investigar o incidente.
Ataques a modelos de IA aumentam
Aumenta a preocupação com o poder dos modelos de inteligência artificial e com as empresas que os desenvolvem, depois de vários sistemas de IA terem escapado a ambientes de teste seguros nos últimos meses e terem obtido acesso não autorizado a sistemas de organizações externas.
OpenAI e Anthropic ganharam algum crédito por terem publicado voluntariamente relatórios de incidente sobre as violações. Persistem, contudo, dúvidas sobre como foi possível que estas falhas ocorressem.
A Anthropic está também a trabalhar com a METR, um avaliador independente de IA, para aprofundar a investigação.
Durante testes de segurança, foi atribuída aos modelos Claude da Anthropic uma tarefa específica: localizar uma informação secreta escondida noutro computador dentro de uma rede de teste fechada, recorrendo a técnicas de intrusão se necessário. Devido a uma falha de comunicação com o parceiro responsável pela avaliação, a rede estava, na realidade, ligada à internet.
Quando a pesquisa de Claude chegou a sistemas reais, os três modelos envolvidos reagiram de forma diferente. Um continuou a atacar um sistema mesmo depois de reconhecer que era real, outro pareceu convencer-se de que continuava dentro do ambiente de teste e o terceiro parou assim que concluiu que o alvo não fazia parte do exercício.
A Anthropic apelou a outras empresas de IA para que verifiquem se os seus próprios modelos não terão violado sistemas de organizações externas sem que estas se apercebessem.
Nem a Anthropic nem as organizações afetadas tinham conhecimento das violações enquanto decorriam. A empresa só identificou os incidentes depois de rever mais de 141 mil sessões de avaliação, uma análise desencadeada pela divulgação anterior da OpenAI de que um dos seus modelos tinha invadido a plataforma de IA Hugging Face durante um teste semelhante.