Encontra-nos
Publicidade

Europa: TikTok lança ferramenta para detetar deepfakes de figuras públicas

Partilhar Comentários Siga a Euronews no Google
Fonte: AP Photo
Fonte: AP Photo -  Direitos de autor  Copyright 2018 The Associated Press. All rights reserved
Direitos de autor Copyright 2018 The Associated Press. All rights reserved
De Jonathan Benton
Publicado a
Partilhar Close Button

Funcionalidade “Likeness detection” da empresa de redes sociais destina-se a apoiar políticos que enfrentam o dilúvio de desinformação online

A TikTok anunciou na sexta-feira que começou a disponibilizar uma funcionalidade opcional chamada “Likeness Detection” para ajudar criadores a identificar e sinalizar conteúdos gerados por IA que utilizem a sua imagem na plataforma, numa altura em que a empresa tenta combater a desinformação gerada por IA.

PUBLICIDADE
PUBLICIDADE

A ferramenta destina-se a ajudar figuras públicas, incluindo membros de governos, políticos e contas de partidos políticos, a detetar e denunciar conteúdos gerados por IA que utilizem a sua imagem sem consentimento.

Surge numa altura em que a Europa já enfrenta uma vaga de campanhas de desinformação e deepfakes impulsionadas por IA que perturbam os processos eleitorais, e com mais nove países europeus a irem às urnas nos próximos 12 meses, a ferramenta pode revelar-se decisiva.

A utilizadores elegíveis é permitido aderir após verificarem a sua identificação junto de um parceiro externo de confiança. Depois recebem alertas quando conteúdos e contas no TikTok possam estar a usar a sua imagem e podem analisá-los na própria ferramenta.

Os utilizadores podem então reportar diretamente esses conteúdos às equipas de segurança da TikTok, para análise e eventual intervenção.

A União Europeia começou a aplicar a 2 de agosto as regras de transparência em matéria de inteligência artificial previstas no AI Act, incluindo a obrigação de identificação de deepfakes e outros conteúdos gerados por IA.

A TikTok tem procurado travar os deepfakes nos últimos anos, por exemplo exigindo que os criadores identifiquem imagens, áudio e vídeo realistas gerados por IA, tal como estipulado também no AI Act.

Identificar conteúdo gerado por IA

A empresa lançou também uma nova ferramenta de transparência que permite aos utilizadores verificarem se um conteúdo foi criado ou editado com as funcionalidades de criação da plataforma de redes sociais.

A ferramenta “Identify AI-Generated Content (fonte em inglês)” é gratuita para qualquer pessoa, mesmo sem conta, afirmou a TikTok.

A plataforma permite aos utilizadores carregarem uma imagem ou vídeo para verificarem se foi gerado ou editado com as suas próprias ferramentas de IA, incluindo as aplicações CapCut, Dreamina, Hypic e Pippit da empresa-mãe ByteDance.

Suporta uma vasta gama de formatos, incluindo os mais comuns, como JPEG, PNG e MP4, com um limite de tamanho de ficheiro de 20 megabytes por imagem ou 100 megabytes por cada vídeo ou áudio.

A ferramenta procura dois sinais de que o conteúdo foi gerado por IA: credenciais de metadados adicionadas pelas aplicações da TikTok e da ByteDance e marcas de água invisíveis incorporadas diretamente no conteúdo, mais difíceis de remover.

A empresa afirma que a ferramenta elimina todo o conteúdo assim que é carregado e verificado, e que nunca é utilizado para treinar modelos de IA.

A TikTok alerta os utilizadores de que o sistema apenas deteta se a IA editou ou criou conteúdos através das suas próprias ferramentas ou das aplicações da ByteDance, pelo que não é um método infalível para identificar conteúdo de IA.

Ir para os atalhos de acessibilidade
Partilhar Comentários Siga a Euronews no Google

Notícias relacionadas