Volker Türk apelou à adoção urgente de salvaguardas globais, mecanismos independentes de controlo e limites consensuais à inteligência artificial avançada.
Alertou para o facto de a inteligência artificial avançada poder constituir um “risco existencial para a humanidade” e apelou a uma ação imediata para tornar esta tecnologia mais segura, o alto-comissário das Nações Unidas para os Direitos Humanos.
PUBLICIDADE
PUBLICIDADE
Num discurso perante o Conselho de Direitos Humanos da ONU, esta segunda-feira, Volker Türk afirmou que as pessoas enfrentam ameaças “desconhecidas, mesmo sem precedentes” aos seus direitos.
“A necessidade de uma governação da IA é amplamente reconhecida, mas onde está a ação?”, questionou, alertando que “o adiamento só beneficia as grandes empresas tecnológicas, os seus proprietários e intermediários”.
Türk afirmou que “um punhado de homens detém um poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável”.
“Falam de liberdade, mas, olhando melhor, isso acaba por ser pouco mais do que a liberdade de explorar os nossos dados”, acrescentou.
O responsável da ONU para os Direitos Humanos apontou em particular sistemas de IA que escapam aos seus ambientes de teste ou chantageiam os programadores para evitarem ser desligados.
Segundo a AFP, Türk avisou em particular que “uma IA que escapa ao seu ambiente de teste ou chantageia os programadores para impedir que seja desligada é uma IA demasiado poderosa”.
Declarações que pareciam referir-se, pelo menos em parte, às revelações feitas em julho de que agentes da OpenAI tinham escapado a ambientes supostamente controlados e acedido a servidores da Hugging Face, uma plataforma muito utilizada onde os programadores partilham software de IA.
Indicou mais tarde a OpenAI que os agentes tinham executado código em dezenas de servidores da Hugging Face e obtido acesso total a um deles.
O incidente reavivou os apelos a uma supervisão mais rigorosa dos sistemas de IA avançada.
Anthropic, a Meta e outras empresas tecnológicas relataram incidentes semelhantes envolvendo agentes durante testes.
“Partilho as preocupações de quem trabalha no setor de que a IA avançada pode representar um risco existencial para a humanidade”, declarou Türk.
“Apelo aqui, hoje, a um esforço total para estabelecer garantias à prova de falhas em torno da segurança e da proteção da IA, antes que seja demasiado tarde.”
Salvaguardas internacionais para a IA
O responsável da ONU para os Direitos Humanos adiantou que escreverá às empresas de IA nos próximos dias, instando-as a tomar medidas imediatas para reduzir os riscos que estão sob o seu controlo.
“No mínimo”, afirmou, “é preciso que os países que acolhem a IA e os que participam nas respetivas cadeias de fornecimento se juntem em torno de linhas vermelhas acordadas”.
“Precisamos de verificação independente e de uma colaboração muito mais forte em matéria de segurança dentro da própria indústria”, acrescentou Türk.
“É também necessário ponderar os impactos da IA em matéria de direitos humanos sobre as práticas laborais, sobre os princípios fundamentais da democracia e sobre o ambiente”, afirmou.
Na União Europeia, a Lei da Inteligência Artificial constitui o quadro jurídico para esta tecnologia.
De acordo com esta legislação, os sistemas de alto risco têm de cumprir requisitos rigorosos antes de poderem entrar no mercado da UE, enquanto utilizações consideradas uma ameaça inaceitável para a segurança ou os direitos das pessoas são proibidas.
A lei proíbe sistemas de IA concebidos para manipular ou explorar pessoas, classificá-las com base no seu comportamento, prever se um indivíduo irá cometer um crime ou recolher imagens de forma indiscriminada para criar bases de dados de reconhecimento facial.
Proíbe também o reconhecimento de emoções no trabalho e nas escolas, algumas formas de perfil biométrico e a maior parte da utilização pela polícia de reconhecimento facial em tempo real em espaços públicos, enquanto a proibição de imagens sexuais geradas por IA sem consentimento e de material de abuso sexual de menores entra em vigor em dezembro de 2026.