Autoridades sul-coreanas vão reforçar a fiscalização e a remoção de anúncios problemáticos gerados por IA e aplicar coimas punitivas.
Coreia do Sul vai obrigar os anunciantes a rotular os anúncios feitos com inteligência artificial (IA) a partir do próximo ano, procurando travar promoções enganosas com especialistas fabricados ou celebridades em deepfake a promover alimentos ou medicamentos nas redes sociais.
Após uma reunião presidida pelo primeiro-ministro Kim Min-seok, na quarta-feira, responsáveis disseram que vão reforçar a triagem e a remoção de anúncios problemáticos gerados por IA e aplicar coimas punitivas, apontando riscos crescentes para os consumidores, sobretudo os mais idosos, que têm dificuldade em perceber se o conteúdo é feito por IA.
Lee Dong-hoon, diretor de política económica e financeira no Gabinete de Coordenação de Políticas Governamentais, disse em conferência que esses anúncios estão a “perturbar a ordem do mercado” e que “é essencial agir rapidamente”.
“Quem criar, editar e publicar fotos ou vídeos gerados por IA terá de os rotular como produzidos por IA, e os utilizadores das plataformas ficam impedidos de remover ou adulterar esses rótulos”, afirmou.
Anúncios gerados por IA com especialistas fabricados digitalmente ou vídeos e áudios em deepfake de celebridades, a promover desde comprimidos para emagrecer e cosméticos até sites de jogo ilegal, tornaram-se comuns na Coreia do Sul, no YouTube, no Facebook e noutras plataformas sociais.
O governo vai procurar rever a lei das telecomunicações e outras normas relacionadas para que a obrigação de rotular conteúdos de IA, a par de uma monitorização reforçada e medidas punitivas, possa entrar em vigor no início de 2026. As empresas que operam as plataformas também serão responsáveis por garantir que os anunciantes cumprem as regras de rotulagem, disse Lee.
IA alimenta aumento de anúncios falsos
Responsáveis dizem estar cada vez mais difícil vigiar e detetar o número crescente de anúncios falsos alimentados por IA.
O Ministério da Segurança Alimentar e dos Medicamentos da Coreia do Sul identificou mais de 96.700 anúncios ilegais online de alimentos e produtos farmacêuticos em 2024 e 68.950 até setembro deste ano, face a cerca de 59.000 em 2023.
O problema está igualmente a alastrar a áreas como o ensino privado, os cosméticos e serviços de jogo ilegal, deixando a Agência do Consumidor da Coreia e outras entidades de fiscalização com dificuldade em acompanhar, disse o Gabinete de Coordenação de Políticas Governamentais.
Para lá dos anúncios enganadores e da desinformação, a Coreia do Sul enfrenta também abusos sexuais facilitados por IA e outras tecnologias digitais. Um tribunal de Seul condenou no mês passado um homem de 33 anos a prisão perpétua por liderar uma rede de extorsão online que explorou ou abusou sexualmente mais de 200 vítimas, incluindo muitos menores ameaçados com deepfakes e outras imagens e vídeos sexuais manipulados.
As autoridades tencionam aumentar as coimas e introduzir sanções punitivas já no próximo ano para desencorajar a criação de anúncios falsos gerados por IA, afirmando que quem distribuir conscientemente informação falsa ou fabricada online ou através de outras redes de telecomunicações poderá ser responsabilizado por indemnizações até cinco vezes os prejuízos causados.
As autoridades vão também reforçar a monitorização e acelerar os procedimentos de remoção, incluindo avaliações em 24 horas e um processo de emergência para bloquear anúncios nocivos mesmo antes de concluir a deliberação. Planeiam ainda reforçar as capacidades de vigilância do Ministério da Segurança Alimentar e dos Medicamentos e da Agência do Consumidor da Coreia, recorrendo à IA, claro.
Coreia do Sul reforça aposta na IA apesar dos riscos
Na reunião, o primeiro-ministro Kim, número dois em Seul atrás do presidente Lee Jae Myung, disse ser crucial “minimizar os efeitos secundários das novas tecnologias” à medida que o país abraça a “era da IA”.
Os planos para rotular anúncios gerados por IA foram anunciados quando Lee, numa reunião separada com líderes empresariais, reiterou as ambições do seu governo para a IA, prometendo esforços nacionais para reforçar a capacidade da Coreia do Sul em chips avançados que alimentam a corrida global da IA.
Os planos incluem mais investimento em investigação e desenvolvimento de chips específicos para IA e outros semicondutores avançados, bem como a expansão dos polos de fabrico de chips para lá das áreas metropolitanas junto à capital, Seul, até às regiões do sul.
Fabricantes sul-coreanos de chips, incluindo a Samsung Electronics e a SK Hynix, representaram mais de 65% do mercado mundial de chips de memória no ano passado.