O acordo europeu para proibir os sistemas de IA que geram deepfakes sexuais constitui um marco na proteção digital. O que são estes conteúdos e quais os riscos que, segundo a Europol, representam?
Espanha chegou a um acordo na União Europeia para proibir os sistemas de inteligência artificial que geram deepfakes sexuais sem consentimento.
PUBLICIDADE
PUBLICIDADE
Esta alteração, aceite pelo Parlamento Europeu, pelo Conselho e pela Comissão, vetará a introdução no mercado, a colocação em serviço e a utilização de ferramentas capazes de criar ou manipular imagens, vídeos ou áudios que mostrem pessoas em situações íntimas sem o seu consentimento explícito.
A iniciativa faz parte da reforma da Lei Europeia da Inteligência Artificial e responde à polémica gerada pela divulgação de nudez falsa de mulheres e menores, através de ferramentas de geração de conteúdos de IA. Além disso, a proibição incluirá conteúdos gerados que reproduzam ou simulem pornografia infantil.
Óscar López, diretor do ministério da Transformação Digital e da Função Pública, congratulou-se com o acordo, recordando que "Espanha continua a liderar a implantação do seu próprio modelo europeu de IA, que deve ser caraterizado como o mais fiável de todos". A medida complementa a Lei Orgânica para a Proteção de Menores em Ambientes Digitais, que prevê penas mais severas para a criação e difusão de deepfakes com conteúdo sexual.
O pacto prevê, ainda, a manutenção de um registo simplificado para determinados sistemas de IA que não apresentem riscos diretos e reforça a obrigação de literacia digital em IA para fornecedores e implantadores, com o apoio das administrações públicas.
O que são deepfakes?
Os deepfakes são um tipo de conteúdo sintético gerado por inteligência artificial capaz de produzir áudio, imagens ou vídeos extremamente realistas que mostram pessoas a dizer ou a fazer coisas que nunca aconteceram. Esta tecnologia baseia-se em redes neurais de aprendizagem profunda, como as Generative Adversarial Networks (GAN), que treinam modelos a partir de grandes quantidades de dados visuais e auditivos disponíveis na Internet. Quando combinados com grandes conjuntos de dados, estes modelos podem criar simulações que são praticamente indistinguíveis da realidade.
A Europol descreve que os deepfakes podem mostrar pessoas a fazer ou a dizer coisas que nunca fizeram, ou mesmo criar indivíduos que nunca existiram, colocando um desafio significativo à veracidade dos média e à confiança do público.
Quem são os principais afetados?
Os deepfakes representam uma ameaça multifacetada, mas certas categorias de vítimas são particularmente vulneráveis:
Indivíduos:
Os deepfakes sexuais não consensuais podem destruir reputações, afetar a saúde mental e causar danos irreparáveis na vida pessoal e profissional. Além disso, a capacidade de gerar pornografia não consentida aumenta o risco para as mulheres e para os menores.
Organizações e figuras públicas:
A manipulação de líderes políticos ou empresariais para difundir mensagens falsas ou provocar crises de confiança pode influenciar a opinião pública, bem como minar a credibilidade institucional.
Sistema judicial e segurança:
Nas investigações policiais e nos processos judiciais, os deepfakes podem transformar gravações audiovisuais em provas manipuladas, complicando o trabalho jurídico e a administração da justiça.
Porque é que representam uma ameaça?
- Disseminação de desinformação:
Os deepfakes podem ser integrados em campanhas de desinformação, minando a confiança nos meios de comunicação social, nas instituições públicas e nos processos democráticos. A facilidade com que se podem tornar virais amplifica o seu impacto social.
- Fragilidade das provas digitais:
A tecnologia põe em causa a validade das provas audiovisuais em investigações ou processos, uma vez que o conteúdo gerado pode parecer autêntico mesmo que seja totalmente fabricado.
3. Escalada da criminalidade digital:
Os avanços na IA tornam mais fácil para os agentes maliciosos com poucos recursos gerar deepfakes de alta qualidade, aumentando a sua utilização para fraude, extorsão, chantagem e disseminação de pornografia não consensual.
Respostas e desafios
A deteção e a atenuação das falsificações profundas requerem tecnologias igualmente avançadas para identificar as contrafações e fornecer ferramentas de prevenção. Além disso, o relatório da Europol salienta a necessidade dos responsáveis pela aplicação da lei e os decisores políticos desenvolverem capacidades específicas para lidar com este fenómeno, bem como de cooperação e regulamentação internacionais para combater tanto a produção como a distribuição de conteúdos sintéticos maliciosos.
Espanha, com o seu esforço europeu para proibir os deepfakes sexuais, procura estabelecer um padrão na proteção dos direitos fundamentais face aos riscos derivados da inteligência artificial. Fá-lo numa altura em que esta tecnologia continua a evoluir e a expandir as suas utilizações, tanto benignas como prejudiciais, na vida digital de milhões de pessoas.