Ofcom investiga X ao abrigo da Lei da Segurança Online. “Decidimos abrir uma investigação formal para apurar se o X incumpriu as suas obrigações legais”.
O regulador britânico dos media está a investigar a plataforma de redes sociais X, de Elon Musk, pelo uso do chatbot de inteligência artificial (IA) Grok, que tem estado sob escrutínio por alegada utilização indevida para gerar imagens sexualmente explícitas e não consensuais.
Num comunicado, a Ofcom disse que havia "relatos profundamente preocupantes" de utilização do chatbot para criar e partilhar imagens de pessoas despidas, bem como "imagens sexualizadas de crianças".
A plataforma de IA foi bloqueada na Malásia e na Indonésia no fim de semana, depois de as autoridades terem dito que estava a ser usada indevidamente para gerar deepfakes sexuais não consensuais.
Lançado em 2023, o Grok pode ser usado gratuitamente no X.
Os utilizadores podem colocar perguntas ao chatbot na rede social e marcar publicações que criaram diretamente ou respostas a publicações de outros utilizadores.
No verão passado, a empresa acrescentou uma funcionalidade de geração de imagens, o Grok Imagine, que incluía um chamado "modo spicy" capaz de gerar conteúdos para adultos.
Se o X não cumprir as exigências da Ofcom, o regulador pode pedir uma ordem judicial para obrigar os fornecedores de serviços de internet a bloquear por completo o acesso ao site no Reino Unido.
A Ofcom pode aplicar ao X, caso se conclua que violou a lei, uma coima até 10% do seu volume de negócios mundial ou 18 milhões de libras (20 milhões de euros).
A ministra da Tecnologia do Reino Unido, Liz Kendall, falará na segunda-feira à tarde sobre o Grok.