A partir desta semana, o regulamento europeu sobre IA obriga a identificar deepfakes e conteúdos gerados por IA. Peritos alertam que falhas técnicas e a falta de normas comuns podem comprometer a fiscalização.
A partir deste domingo, as empresas de IA passam a estar sujeitas a novas obrigações ao abrigo da Lei da Inteligência Artificial da UE, que as obriga a tornar os deepfakes e outros conteúdos gerados por IA claramente identificáveis como artificiais.
PUBLICIDADE
PUBLICIDADE
Mas os desafios técnicos levantam dúvidas sobre a eficácia destas regras.
Há dois anos, a UE adotou um vasto conjunto de regras para regular a inteligência artificial e criou um Gabinete para a IA dedicado a supervisionar a aplicação desta legislação histórica.
Entre as muitas disposições, a Lei da IA estabelece os primeiros regimes de transparência do mundo para conteúdos sintéticos, obrigando os fornecedores de sistemas de IA generativa, como o Claude da Anthropic ou o ChatGPT da OpenAI, a garantirem que o conteúdo gerado ou manipulado artificialmente possa ser identificado como tal.
As regras são mais rigorosas para os deepfakes - imagens, áudios ou vídeos realistas gerados ou manipulados por IA que imitam a aparência, a voz ou as ações de uma pessoa real, de forma a levar o público a acreditar que disse ou fez algo que nunca aconteceu.
Da sátira à manipulação
Tal como qualquer tecnologia, a IA pode ser usada tanto para fins criativos como para fins nocivos.
Bruxelas reconhece que nem todo o conteúdo sintético é enganador: o material criado com fins claramente artísticos, criativos, satíricos ou de ficção fica, em geral, fora do âmbito das obrigações de divulgação aplicáveis aos deepfakes.
Um exemplo conhecido surgiu em 2023, quando uma imagem do Papa Francisco, criada por IA, a usar um casaco acolchoado branco se tornou viral em todo o mundo. A fotografia era falsa, mas foi amplamente percebida como uma brincadeira.
A mesma tecnologia, porém, pode ser usada com objetivos muito mais prejudiciais.
Em 2024, a estrela pop mundial Taylor Swift foi alvo de uma vaga de imagens explícitas geradas por IA que se espalharam online sem o seu consentimento, alimentando um novo debate sobre os riscos dos conteúdos sintéticos.
Os deepfakes surgiram também como ferramenta de manipulação política.
Em 2022, pouco depois de a Rússia ter lançado a invasão em grande escala da Ucrânia, surgiu um vídeo falso em que o presidente ucraniano, Volodymyr Zelenskyy, dizia aos soldados para se renderem. O vídeo foi rapidamente desmentido, mas mostrou como os conteúdos sintéticos podem ser utilizados como arma em tempo de guerra.
Teme-se que conteúdos gerados por IA cada vez mais realistas, amplificados pelas plataformas de redes sociais, acabem por dificultar aos cidadãos a distinção entre informação verdadeira e material fabricado.
Regular os deepfakes
Para responder a este desafio, a Comissão Europeia elaborou um código de conduta voluntário que define um quadro sobre a forma como as empresas devem assinalar a origem artificial dos conteúdos sintéticos através de marcas legíveis por máquina e de etiquetas visíveis para os deepfakes.
A ideia é simples: as pessoas devem saber quando estão a ver conteúdo gerado ou alterado por IA. Por isso, as regras aplicam-se tanto às empresas que desenvolvem a tecnologia como às que utilizam IA de forma profissional, ficando os usos pessoais fora do âmbito de aplicação.
O código de conduta não trata apenas da marcação, mas também dos mecanismos de deteção associados, que exigem a colaboração de todos os intervenientes: empresas de IA, plataformas de redes sociais, organizações da sociedade civil e verificadores de factos.
A grande incógnita é saber se a tecnologia conseguirá cumprir essa promessa de forma fiável.
Uma regra, muitos obstáculos
O primeiro desafio é geográfico. A UE pode regular as empresas que operam no mercado europeu ou o têm como alvo, mas o conteúdo online não pára nas fronteiras. Um deepfake criado fora da Europa pode chegar a milhões de utilizadores europeus em poucos minutos.
O segundo desafio é a maturidade técnica. Grandes empresas de IA como a OpenAI e a Google apoiam, em termos gerais, as exigências de transparência e assinaram o código de conduta da Comissão. Mas avisam que as tecnologias de deteção e marcação continuam a ser um alvo em constante mudança.
Neste momento, não existe uma solução única para todo o setor. As empresas estão a testar diferentes abordagens - marcas de água, metadados, sistemas de proveniência de conteúdos - que nem sempre são compatíveis entre si ou comunicam umas com as outras.
O terceiro desafio é a fragilidade das pistas digitais. Especialistas alertam que as marcas de água podem ser retiradas, alteradas ou perder-se quando o conteúdo é editado, comprimido ou partilhado entre plataformas. Rastrear todo o histórico de uma imagem ou vídeo gerados por IA ao longo de várias edições pode ser extremamente difícil.
Perante estas limitações, os investigadores defendem que nenhuma tecnologia, isoladamente, será suficiente. As empresas poderão precisar de uma abordagem em várias camadas que combine vários métodos.
“Uma combinação de soluções é mais poderosa do que qualquer medida isolada. Por isso, a melhor prática é implementar várias camadas de marcação e deteção para conteúdos gerados por IA”, conclui o estudo técnico (fonte em inglês) da Comissão Europeia sobre o tema.
Acompanhar o ritmo
A UE assumiu um papel de liderança na resposta a um dos grandes desafios da era da IA: um mundo em que o conteúdo sintético é cada vez mais difícil de distinguir da realidade.
Mas a capacidade de Bruxelas para acompanhar uma tecnologia que evolui a uma velocidade extraordinária determinará se as regras de transparência da Lei da IA se tornam uma salvaguarda eficaz ou apenas uma etiqueta colada a um problema que continua a ultrapassá-las.