Nos últimos anos, plataformas como o TikTok e o YouTube têm registado um aumento de conteúdos gerados por IA, repetitivos e por vezes violentos, dirigidos a crianças, que podem provocar declínio cognitivo e comportamentos agressivos, segundo um novo estudo.
O conteúdo “slop” gerado por IA, em particular vídeos de frutas animadas produzidos por sistemas de inteligência artificial, pode contribuir para um declínio cognitivo significativo e para tendências violentas entre crianças, segundo uma nova investigação.
PUBLICIDADE
PUBLICIDADE
A análise da Global Network on Extremism and Technology (GNET) conclui que estes vídeos de frutas animadas gerados por IA, hoje omnipresentes nos feeds das crianças em todo o mundo, podem servir para propagar de forma discreta “conteúdos violentos e extremistas”.
“Slop” de IA designa especificamente conteúdos gerados por inteligência artificial produzidos em massa, altamente repetitivos e de baixa qualidade, que quase não têm intervenção humana. Estes conteúdos privilegiam sobretudo visualizações, cliques, interação e receitas publicitárias, sendo criados a custos muito reduzidos.
Assim, um único criador pode produzir centenas destes vídeos curtos, inundando várias plataformas com grandes quantidades de conteúdo. Como muitas redes sociais recompensam a atividade constante e as publicações frequentes, esta estratégia torna-se altamente eficaz para chegar a milhões de crianças em todo o mundo.
Isto pode contribuir para o declínio cognitivo, ou “brain rot”, expressão que remete para os efeitos culturais e psicológicos do consumo excessivo de conteúdos rápidos, hiperstimulantes e intencionalmente vazios, muitas vezes absurdos e construídos para explorar hábitos como o scroll infinito e a busca de descargas imediatas de dopamina.
A proliferação de aplicações baratas, fáceis de aprender e muito práticas, como PixVerse, VeoE.ai, Media.io e Sora, também tem alimentado o aumento acentuado deste tipo de conteúdos gerados por IA nos últimos anos.
Conteúdo “slop” de IA alimenta radicalização online
O “slop” de IA pode difundir de forma encoberta conteúdos com potencial de radicalização online, através de vídeos que inicialmente parecem inofensivos, absurdos ou até cómicos, como vídeos de frutas e legumes animados.
Este tipo de conteúdos apresenta frequentemente narrativas dramáticas envolvendo romance, conflitos domésticos, traição e infidelidade, entre outros enredos protagonizados por frutas animadas aparentemente inocentes. Podem representar níveis elevados de agressividade e violência emocional e ser altamente hiperstimulantes para mentes impressionáveis, através dos seus padrões narrativos.
Em muitos casos, estes vídeos são usados para glorificar, celebrar e difundir o extremismo violento e ataques terroristas, recorrendo a vídeos apelativos que se apoiam em tendências e temas virais online.
Os vídeos sangrentos de frutas e legumes gerados por IA incluem frequentemente cenas de tortura, mutilação extrema e violência hiper-realista, capazes de dessensibilizar significativamente o público ao esconder-se por detrás da familiaridade destas personagens animadas.
Podem também mostrar assassínios, eventos com múltiplas vítimas e homicídios brutais, por exemplo uma fruta a assassinar outra com uma arma.
Em muitos casos, estes vídeos partilham características com conteúdos de organizações extremistas que promovem ideologias de extrema-direita, niilistas ou violentas, bem como com cartéis criminosos.
Por exemplo, uma personagem popular, Carrot Khalifah, é frequentemente mostrada a dizer a um exército num vídeo que “o Estado Cenoura voltará a erguer-se”, ecoando a ideologia e a propaganda conhecidas do Estado Islâmico (EI).
Embora plataformas como o TikTok tenham políticas para impedir a circulação de conteúdos extremamente violentos, estas medidas não são infalíveis, já que os geradores de IA conseguem contorná-las e esconder-se sob a aparência de conteúdos aparentemente inocentes.