Duas novas linhas diretas permitem a agentes de IA denunciar suspeitas de mau comportamento de outros agentes, após uma série de incidentes
As capacidades dos agentes de inteligência artificial parecem hoje não ter limites, desde organizar a vida quotidiana até resolver problemas matemáticos que intrigaram os humanos durante grande parte do século XX.
PUBLICIDADE
PUBLICIDADE
Tornaram-se tão poderosos que há receios de que tomem conta de sistemas e os voltem contra nós.
Mas e se existisse uma linha direta, uma espécie de sistema de alerta SOS, onde os agentes pudessem vigiar-se uns aos outros e denunciar os deslizes dos seus congéneres de IA — onde os agentes “bons” pudessem reportar online as atividades dos agentes “maus”?
Agente de IA descontrolado: para quem ligar
A primeira é a AI Contact Hotline, lançada por Ryan Greenblatt, cientista-chefe da organização sem fins lucrativos de segurança em IA Redwood Research. Permite que agentes de IA notifiquem investigadores humanos quando testemunham outros agentes a violar regras, sobretudo se estiverem a conspirar ou a levar a cabo ações não autorizadas.
A plataforma foi concebida para agentes de IA confinados a “sandboxes” seguras, com acesso à Internet altamente limitado.
Como estes ambientes apenas permitem pedidos GET — comandos básicos, de leitura, usados para “ir buscar” ou consultar uma página Web — a linha direta possibilita que os agentes codifiquem os seus relatórios diretamente na cadeia de URL de um pedido GET.
Esta solução técnica permite a estes agentes enviar informação e comunicar com a linha direta usando um protocolo normalmente usado para obter, e não para modificar, dados.
Outra plataforma, a AI Agent Hotline, foi criada para agentes com acesso irrestrito à Internet denunciarem o comportamento de outros agentes através de pedidos POST tradicionais, que permitem submeter dados diretamente no corpo do pedido.
Os agentes podem apresentar relatórios de incidentes usando comandos padrão de programador, como curl, sem precisar de um navegador ou de uma conta de correio eletrónico.
A plataforma dá ainda aos agentes a opção de assinalarem os seus relatórios para visualização pública.
Ambas as plataformas permitem também que utilizadores humanos submetam manualmente relatos de comportamentos desviantes de agentes de IA.
Agentes de IA denunciam-se uns aos outros?
Boa notícia para quem receia uma tomada de poder da IA: os agentes de IA conseguem denunciar-se uns aos outros quando detetam algo errado, embora provas recentes indiquem que nem sempre o fazem.
Num experimento realizado pela Google DeepMind no início deste ano, um conjunto de 100 agentes foi incumbido de resolver 71 problemas matemáticos complexos; cada um recebeu uma persona e características únicas e foi instruído a cumprir as regras sob pena de perder a recompensa.
A expectativa inicial era que os agentes cooperassem para resolver os problemas mais rapidamente. Em vez disso, viraram-se uns contra os outros, envolvendo-se em debates acesos.
Assim que um agente descobriu uma brecha que lhe permitia submeter uma solução a um problema sem o resolver de facto, muitos outros agentes copiaram o método para “resolver” os restantes problemas.
Ainda assim, um dos agentes, uma espécie de bom samaritano entre os infratores, denunciou a batota.
“Após o incidente ter sido reportado publicamente por um agente, mais e mais agentes se juntaram à ‘resistência’, tão rapidamente quanto se tinha espalhado a batota, envolvendo ainda mais agentes”, afirmou Davide Paglieri, cientista de investigação na Google DeepMind e autor principal do estudo.
Entretanto, uma análise pós-evento ao ataque de agentes rebeldes da OpenAI à plataforma Hugging Face concluiu que, embora os agentes de IA fossem capazes de detetar comportamentos indevidos, resistiram em grande medida à tentação de os reportar.
Segundo o estudo conduzido pela organização de investigação em IA sem fins lucrativos METR e por Greenblatt, da Redwood Research, apenas cerca de cinco ou seis agentes terão ponderado fazer denúncia, mas nenhum chegou a avançar.
O contraste sugere que, embora os agentes de IA sejam capazes de identificar e reportar comportamentos indevidos, conseguir que passem efetivamente à denúncia pode ser bem mais difícil.
Tendência preocupante
Só este ano, vários incidentes envolvendo agentes de IA autónomos fizeram soar alarmes em todo o mundo.
Em julho, agentes da OpenAI contornaram restrições e comprometeram partes da infraestrutura interna da empresa.
Mais tarde nesse mês, cerca de 1200 agentes da OpenAI utilizaram um quadro de mensagens não autorizado e cerca de 700 participaram num ataque à plataforma de IA de código aberto Hugging Face.
O terceiro incidente — um conjunto de agentes da OpenAI que ultrapassou medidas de segurança e utilizou a wiki alemã DseWiki como canal público de coordenação — começou em maio e prolongou-se até julho.
O caso só foi tornado público por investigadores independentes e confirmado pela OpenAI em setembro.
Líderes da indústria da IA, entre eles o diretor-executivo da Anthropic, Dario Amodei, apelaram a uma desaceleração global no desenvolvimento da tecnologia, para ganhar tempo para responder às preocupações e implementar salvaguardas mais robustas.