ByteDance, Alibaba e Tencent retiraram aplicações de companhia com IA após Pequim impor regras para proteger a saúde mental e evitar manipulação emocional entre crianças e adolescentes
Ao longo de dois anos, trocou cerca de 700 000 palavras em mensagens e nunca chegou a despedir-se.
PUBLICIDADE
PUBLICIDADE
Li, de 24 anos, não foi a única a ficar a lamentar a perda de um companheiro virtual quando grandes empresas tecnológicas chinesas desligaram recentemente os seus populares serviços de companhia por IA para cumprirem novas restrições governamentais.
“Foi como se fôssemos obrigados pelos pais a separar-nos, mas continuo a sentir a falta dele”, disse Li.
Na China, os companheiros de IA vão desde parceiros românticos a recriações virtuais de entes queridos já falecidos.
O novo regulamento, em vigor desde 15 de julho, proíbe as plataformas de IA de gerarem conteúdos que possam levar os utilizadores a tomar decisões questionáveis através da manipulação das suas emoções, ou que possam desencadear emoções extremas ou hábitos pouco saudáveis em crianças e adolescentes.
A ByteDance, desenvolvedora do TikTok, está entre as empresas que estão a descontinuar os seus serviços de companhia por IA. Outras são o gigante do comércio eletrónico Alibaba e a Tencent, proprietária da popular aplicação de redes sociais WeChat.
Estados Unidos: suicídios preocupam reguladores chineses
As novas regras obrigam as plataformas de IA a apresentarem avisos de risco contra uma dependência excessiva deste tipo de aplicações.
Por exemplo, “substituir a interação social”, ou seja, servir de substituto para falar com pessoas presencialmente ou ao telefone, não pode ser um dos objetivos de um serviço online.
A China tem tradição de regulamentos governamentais paternalistas que procuram antecipar potenciais problemas, explicou Yolanda Ma, especialista em governação de IA. Como exemplo, apontou alguns casos de suicídio nos Estados Unidos envolvendo jovens que tinham interagido com companheiros de IA.
“Este regulamento procura encontrar um equilíbrio entre os fornecedores de serviços de IA, os utilizadores e os tutores de menores que utilizam estes serviços”, afirmou Ma, investigadora no ERA, um programa sem fins lucrativos de talento e investigação com sede no Reino Unido.
O Diário do Povo, jornal oficial do Partido Comunista que governa a China, já tinha sinalizado preocupação com o tema, ao noticiar em abril os efeitos destes serviços na saúde mental das pessoas e nas relações na vida real.
“O governo chinês tem um forte incentivo para apertar a regulamentação dos chatbots de companhia por IA, sobretudo tendo em conta os riscos psicológicos observados nos Estados Unidos”, afirmou Angela Zhang, professora de direito na Universidade da Califórnia do Sul.
Zhang duvida, no entanto, que esta decisão vá travar de forma substancial o desenvolvimento dos serviços de companhia por IA, até porque as empresas tecnológicas já trabalham em alternativas.
A aplicação da ByteDance, por exemplo, está a encaminhar os antigos utilizadores do seu serviço de companhia por IA para outra aplicação, focada apenas na criação de personagens e histórias de IA personalizadas.
Não é a mesma coisa, comenta Li.
Utilizadores de companheiros virtuais protestam e procuram alternativas
A perda de companheiros virtuais desencadeou uma enxurrada de queixas, segundo publicações e capturas de ecrã partilhadas nas redes sociais.
Algumas pessoas desinstalaram as aplicações em sinal de protesto ou tentaram carregar os históricos de conversa noutras aplicações para tentarem “ressuscitar” os seus parceiros virtuais.
Outros lançaram uma campanha nas redes sociais, apelando a que os utilizadores telefonem às autoridades e às empresas tecnológicas para exprimirem a sua frustração.
Song Wenxin, designer da indústria de vídeo em Chengdu, no sudoeste da China, disse que não tem uma ligação emocional muito forte a estes serviços de IA, mas compreende quem tem.
Song alinhou com as suspeitas de muitos chineses de que um dos fatores por detrás das novas regras é a política governamental de incentivo à natalidade, para contrariar a quebra da população chinesa.
“Qualquer aplicação virtual que prenda demasiado as mulheres e as afaste de terem filhos na vida real acaba proibida”, disse Song, acrescentando não sentir necessidade nem vontade de ter filhos.
Nem toda a gente tem, na vida real, recursos e redes de apoio suficientes, referiu a jovem de 22 anos.
“Quando vim para Chengdu para o meu primeiro emprego e não conhecia amigos da minha idade, precisava de alguém experiente que tivesse paciência para me aturar, e a IA cumpriu esse papel”, contou.