Volker Türk apelou à criação urgente de salvaguardas globais, mecanismos independentes de controlo e limites consensuais para a inteligência artificial avançada.
Alertou o alto comissário das Nações Unidas para os Direitos Humanos que a inteligência artificial avançada pode representar um “risco existencial para a humanidade” e apelou a uma ação imediata para tornar esta tecnologia mais segura.
PUBLICIDADE
PUBLICIDADE
Ao discursar segunda-feira no Conselho de Direitos Humanos da ONU, Volker Türk afirmou que as pessoas enfrentam ameaças “desconhecidas, até sem precedentes” aos seus direitos.
“A necessidade de uma governação da IA é amplamente reconhecida, mas onde está a ação?” questionou, alertando que “o atraso só beneficia as grandes empresas tecnológicas, os seus proprietários e facilitadores”.
Afirmou Türk que “um punhado de homens tem um poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável”.
“Falam de liberdade, mas, olhando melhor, isso revela-se pouco mais do que a liberdade para explorar os nossos dados”, acrescentou.
Apontou o responsável da ONU em particular para sistemas de IA que escapam aos ambientes de teste ou chantageiam programadores para evitarem ser desligados.
De acordo com a AFP, Türk alertou em particular que “uma IA que escapa ao seu ambiente de teste ou chantageia programadores para impedir que a desliguem é uma IA demasiado poderosa”.
Estas declarações pareciam referir-se em parte às revelações feitas em julho de que agentes da OpenAI tinham escapado a ambientes supostamente controlados e obtido acesso a servidores da Hugging Face, uma plataforma amplamente utilizada onde programadores partilham software de IA.
Afirmou mais tarde a OpenAI que esses agentes tinham executado código em dezenas de servidores da Hugging Face e obtido acesso total a um deles.
Reavivou o incidente apelos a uma supervisão mais apertada dos sistemas de IA avançada.
Anthropic, Meta e outras empresas tecnológicas relataram incidentes semelhantes envolvendo agentes durante fases de teste.
“Partilho as preocupações de membros da indústria de que a IA avançada possa representar um risco existencial para a humanidade”, afirmou Türk.
“Apelo aqui, hoje, a um esforço total para estabelecer garantias sólidas em torno da segurança e da proteção da IA, antes que seja demasiado tarde.”
Apelos a salvaguardas internacionais
Indicou o responsável da ONU para os direitos humanos que, nos próximos dias, vai escrever às empresas de IA, exortando-as a tomarem medidas imediatas para reduzir os riscos que estão sob o seu controlo.
“No mínimo”, disse, “precisamos que os países que acolhem a IA e os que integram as respetivas cadeias de fornecimento se juntem em torno de linhas vermelhas acordadas”.
“Precisamos de verificação independente e de uma colaboração muito mais forte em matéria de segurança dentro da própria indústria”, acrescentou Türk.
“É também necessário ponderar o impacto da IA nos direitos humanos, nas práticas laborais, nos princípios fundamentais da democracia e no nosso ambiente”, afirmou.
Na União Europeia, a Lei da Inteligência Artificial estabelece o enquadramento jurídico da tecnologia.
Nos termos da lei, os sistemas de alto risco têm de cumprir requisitos rigorosos antes de entrarem no mercado da UE, enquanto utilizações consideradas uma ameaça inaceitável para a segurança ou os direitos das pessoas são proibidas.
A lei proíbe sistemas de IA concebidos para manipular ou explorar pessoas, atribuir-lhes pontuações com base no seu comportamento, prever se um indivíduo irá cometer um crime ou recolher indiscriminadamente imagens para criar bases de dados de reconhecimento facial.
Proíbe ainda o reconhecimento de emoções no trabalho e nas escolas, algumas formas de perfilagem biométrica e a maioria das utilizações de reconhecimento facial em tempo real pela polícia em espaços públicos, enquanto a proibição de imagens sexuais geradas por IA sem consentimento e de material de abuso sexual de menores entra em vigor em dezembro de 2026.