A Comissão Europeia abriu uma investigação formal ao Grok, o chatbot de IA de Elon Musk no X, por ter sido utilizado para gerar imagens sexualizadas não consentidas de mulheres e raparigas menores de idade.
As plataformas online como o X têm "obrigações muito claras" de restringir os conteúdos ilegais, afirmou Henna Virkkunen, chefe da divisão de tecnologia da União Europeia, no programa matinal Europe Today da Euronews, um dia depois de a UE ter aberto uma investigação formal ao chatbot Grok por divulgar imagens sexualizadas de mulheres reais e raparigas menores de idade sem o seu consentimento.
"Os prestadores de serviços têm de ter práticas para garantir que os conteúdos ilegais não são difundidos em linha", afirmou a vice-presidente executiva da Comissão Europeia. Virkkunen acrescentou que a Comissão está também a analisar outros riscos associados ao Grok para além da funcionalidade de imagem agora modificada.
O Grok é um chatbot de IA desenvolvido pela empresa de Elon Musk xAIe integrado na sua plataforma de redes sociais X. Na segunda-feira, a Comissão lançou uma investigação formal sobre a plataforma, na sequência de uma preocupação generalizada com a sua função de edição de imagens, que tem sido utilizada para gerar imagens sexualizadas de mulheres reais e raparigas menores sem o seu consentimento. A ferramenta gerou milhões de imagens deste tipo numa questão de semanas.
Virkkunen confirmou que a investigação se centra na questão de saber se a X cumpriu as suas obrigações ao abrigo da Lei dos Serviços Digitais (DSA) para avaliar e mitigar os riscos sistémicos.
"Queremos investigar a forma como o X tem estado a avaliar e a mitigar os riscos", disse. "A Grok está agora cada vez mais integrada nos serviços do X, por isso é importante ver como esses riscos estão a ser tratados".
Se se descobrir que o X violou a DSA, poderá enfrentar multas de até 6% do seu volume de negócios anual global.
A plataforma já foi sancionada uma vez: em dezembro passado, a Comissão multou a empresa em 120 milhões de euros por práticas publicitárias e marcas de verificação de contas enganosas.
Apesar de Musk criticar abertamente a regulamentação da UE, Virkkunen afirmou que a Comissão tem estado em contacto permanente com a rede social X.
"Têm estado em diálogo com os nossos serviços", afirmou. A Comissão já tinha solicitado informações à empresa sobre a forma como avalia os riscos e ordenou-lhe que conservasse documentos relacionados com a Grok e a X antes do processo formal.
Pressões de Washington para que as regras digitais sejam revogadas
A investigação ao Grok acontece num contexto de tensões transatlânticas crescentes sobre as regras tecnológicas da UE. Também na segunda-feira, a plataforma norte-americana WhatsApp, propriedade da Meta, ganhou uma designação ao abrigo do DSA, que a sujeita à supervisão mais rigorosa do bloco.
Ao mesmo tempo, o lóbi do setor tecnológico em Bruxelas intensificou-se, com gastos estimados em mais de 150 milhões de euros por ano, de acordo com pesquisas de ONGs. As empresas de tecnologia dos EUA e a administração Trump acusaram Bruxelas de excesso de regulamentação, argumentando que leis como a DSA, a Lei dos Mercados Digitais e a Lei da Inteligência Artificial sufocam a inovação.
Questionado sobre as pressões de Washington para reverter as regras, Virkkunen foi firme.
"Estas regras digitais são muito importantes para os europeus", afirmou. "Queremos garantir que os nossos cidadãos podem confiar nas tecnologias, que o nosso ambiente digital é justo, transparente, democrático e seguro".
Equilíbrio entre regulamentação e inovação
A UE é muitas vezes retratada como uma entidade que dita regras em vez de inovar, uma crítica refutada por Virkkunen, que afirmou que tudo se resume a um equilíbrio.
"Impulsionar a inovação, mas ao mesmo tempo ter consciência dos riscos", afirmou.
A par da regulamentação, Virkkunen destacou os esforços para tornar a Europa mais atractiva para as empresas em fase de arranque e em expansão, incluindo planos para o chamado "28º regime" - um quadro jurídico concebido para facilitar a atividade das empresas em toda a UE.
"Estamos a simplificar os processos e as regras, a criar um mercado único melhor e a impulsionar os mercados de capitais para que as empresas em fase de arranque tenham acesso ao financiamento", afirmou. "A Europa tem tudo o que precisa para ser competitiva".
Questionado sobre o novo acordo comercial entre a UE e a Índia, Virkkunen afirmou que se tratava de "uma óptima notícia para todos", apontando a cooperação tecnológica como um pilar fundamental da relação, especialmente no que diz respeito aos talentos.
"A Índia tem muitos especialistas em TIC e nós temos falta de mão de obra na Europa", afirmou Virkkunen, defendendo que o estreitamento de laços pode ajudar a atrair profissionais qualificados para colmatar o défice de competências digitais na Europa.