A sua mensagem privada pode permanecer encriptada e ilegível para a plataforma que a transmite, ou ser analisada automaticamente antes de chegar ao destinatário. Esta dicotomia está no centro do debate da UE sobre controlo de conversas e combate à exploração infantil online.
Se enviar hoje uma mensagem no Signal ou no WhatsApp, a legislação da UE não se aplica a essa mensagem, por enquanto. Se enviar a mesma fotografia através de uma aplicação não encriptada, esta poderá já ter sido analisada por um sistema automatizado antes de alguém a ler. Esta distinção, em vez de uma afirmação genérica de que «a UE lê as suas mensagens privadas», reflete a questão central do debate em curso sobre o controlo das conversas e a deteção de material de abuso sexual de menores (CSAM) na Internet.
PUBLICIDADE
PUBLICIDADE
Um regulamento temporário, em vigor até 2028, permite às plataformas analisar voluntariamente mensagens privadas, fotografias e vídeos à procura de CSAM. Esta regra não se aplica aos serviços com encriptação de ponta a ponta, como o WhatsApp ou o Signal, tal como não se aplica às restantes plataformas. Uma proposta permanente separada, designada "Chat Control 2.0", continua em negociação. A questão central que permanece em aberto é saber se chegará ou não às conversas encriptadas.
Como o sistema decide o que sinalizar
Os instrumentos de deteção funcionam sobretudo de duas formas. A primeira consiste na correspondência por hash: uma imagem ou um vídeo são convertidos numa impressão digital criptográfica e comparados com uma base de dados de material já confirmado como ilegal. Este processo é rápido e preciso para cópias iguais ou quase iguais, mas pode ser facilmente contornado com uma pequena alteração. A segunda forma é a classificação por aprendizagem automática, utilizada para conteúdo novo ou modificado e, de forma mais controversa, para analisar texto à procura de padrões de linguagem associados ao aliciamento sexual de menores.
Patrick Breyer, ativista dos direitos digitais, jurista e antigo eurodeputado do grupo dos Verdes/Aliança Livre Europeia, defende que ambos os métodos são menos fiáveis do que os decisores políticos presumem. A correspondência por hash, o método mais preciso, "vem acompanhada de uma taxa muito elevada de falsos positivos, que incriminam pessoas injustamente", afirma Breyer, apontando para a Alemanha, onde dados recentes indicam que "mais de 50% da maioria das denúncias não são, na realidade, penalmente relevantes".
Parte do problema, explica, está a montante: as bases de dados são muitas vezes construídas e verificadas fora da Europa, em vez de serem avaliadas à luz do direito penal europeu. "Alguns funcionários dos prestadores, onde quer que estejam no mundo, introduzem conteúdos nas bases de dados" sem uma avaliação jurídica adequada da intenção, condição necessária para que algo seja, à partida, penalmente relevante.
Onde ocorre a análise
Nas plataformas não encriptadas, esta verificação pode ocorrer nos servidores do próprio prestador de serviços. Nos serviços com encriptação de ponta a ponta, o prestador já não consegue ler a mensagem após a encriptação. Qualquer deteção tem, por conseguinte, de recuar na cadeia: ou seja, tem de passar para o próprio dispositivo antes da aplicação da encriptação, ou para uma camada de hardware segura criada especificamente para esse efeito.
É o que se designa por client-side scanning, ou análise no lado do cliente. Esta é a principal razão pela qual o debate sobre a encriptação não desapareceu: a mensagem é inspecionada enquanto ainda é legível, "antes de a fechadura se fechar", em vez de ser intercetada posteriormente.
Que acontece depois de um alerta
Um conteúdo sinalizado não é encaminhado diretamente para um processo policial. De acordo com prestadores de serviços como a Google, uma correspondência, seja por comparação de hash ou por modelo de IA, é normalmente encaminhada para avaliadores humanos especializados na empresa, que a confirmam antes de comunicarem o caso às autoridades. É nesta fase de confirmação que, segundo Breyer, o processo falha quando aplicado em larga escala.
Os avaliadores aplicam referenciais jurídicos diferentes, não apuram sempre a intenção e classificam muitas vezes de forma errada práticas comuns de sexting entre adolescentes ou imagens produzidas pelos próprios e partilhadas como brincadeira num grupo de conversa. Breyer sublinha que muitos menores envolvidos nestas denúncias nunca tiveram a intenção de enviar ou receber qualquer conteúdo ilegal; limitaram-se a reenviar algo num chat de grupo "sobre outro assunto".
A correspondência de imagens por hash é comparada com material já confirmado como ilegal. O texto é um problema distinto. A linguagem de aliciamento pode ser muito semelhante à conversa normal entre adolescentes ou adultos, razão pela qual os investigadores apontam a deteção baseada em texto como a camada mais propensa a erros no sistema. Esta diferença é importante para a proposta permanente. Alargar qualquer futura regra relativa às imagens ao texto das conversas multiplicaria o problema dos falsos positivos que Breyer descreve na análise de imagens.
Alternativa em discussão
Breyer não rejeita totalmente a deteção. Rejeita apenas que seja feita em massa. Defende que a análise só se justifica quando um tribunal independente confirmar uma suspeita razoável sobre uma pessoa específica, o que seria comparável a um mandado para abrir o correio de alguém. Examinar toda a gente "por precaução", afirma, é uma forma de intrusão completamente diferente.
Como alternativa, aponta duas vias: a análise proativa da internet aberta e da internet oculta à procura de material já identificado como ilegal, com comunicação para remoção — usada no Reino Unido e no Canadá, mas ainda não na UE — e a "segurança por projeto", em que as aplicações alertam o utilizador diretamente no dispositivo antes de partilhar um número de telefone ou uma imagem de nudez, sem que qualquer conteúdo saia do telemóvel.
Qual o impacto nos seus dados
Atualmente, o destino de uma mensagem depende totalmente da aplicação que a transporta. Nas plataformas não encriptadas, o conteúdo pode ser identificado por impressão digital ou analisado por algoritmos antes ou imediatamente após a sua transmissão, podendo ser revisto por equipas especializadas do prestador do serviço e comunicado às autoridades competentes, caso se confirme a sua natureza ilícita. Nas aplicações com encriptação de ponta a ponta, esta cadeia não se aplica, embora a proposta permanente ainda em discussão possa vir a alterar onde e quando esta linha de análise é traçada.