A OpenAI e a Anthropic afirmaram estar a negociar acordos de segurança e privacidade com o sindicato norte-americano de professores, mas a Google, principal fornecedora de tecnologia educativa nas escolas dos EUA, ainda não revelou se dará garantias semelhantes.
A Microsoft introduz limites e normas de privacidade para a sua IA nas escolas dos Estados Unidos, em linha com um acordo negociado com o segundo maior sindicato de professores do país, numa altura de crescente contestação à IA e ao tempo passado ao ecrã.
PUBLICIDADE
PUBLICIDADE
O acordo (fonte em inglês), assinado na semana passada, proíbe o uso de companheiros de IA ou de funcionalidades “concebidas para criar vínculos emocionais ou dependência” ou para manter os alunos envolvidos por mais tempo do que o necessário para a tarefa de aprendizagem.
As normas têm força legal e obrigam à realização de auditorias externas para verificar o cumprimento.
No âmbito deste acordo alargado, a Microsoft afirma que não utilizará dados de alunos ou professores para treinar sistemas de IA, salvo uma exceção limitada para dados que possam ajudar a proteger os alunos. Garante que os dados recolhidos não podem ser vendidos, utilizados para publicidade ou para desenvolver produtos.
Inclui ainda medidas de auditoria e transparência que obrigam a empresa a explicar às famílias, em linguagem simples, como funcionam as suas ferramentas e que dados recolhem.
“Este padrão estabelece uma fasquia elevada para a privacidade das crianças e a segurança da IA, e vamos alargar este acordo a todos os distritos escolares do país”, afirmou Brad Smith, vice-presidente e presidente da Microsoft, em comunicado.
As normas vão aplicar-se aos contratos escolares da Microsoft em todos os Estados Unidos a partir de 1 de novembro, segundo a empresa.
Europa precisa de travão à IA nas salas de aula?
A IA já está a entrar nas salas de aula europeias.
Um estudo da Comissão Europeia (fonte em inglês) com utilizadores precoces em escolas secundárias na Finlândia, Alemanha, Irlanda, Luxemburgo e Espanha concluiu que os alunos usam IA generativa para explicar temas difíceis, praticar competências e preparar exames.
Alguns governos europeus já estão a definir limites para o uso por alunos mais novos.
A Noruega indicou este ano que as crianças entre os seis e os 12 anos não devem, em regra, usar por conta própria IA generativa para trabalhos escolares, enquanto os jovens entre os 13 e os 15 podem começar a experimentá-la com cautela.
A França permite que os alunos aprendam sobre IA já no ensino básico, mas defende que não devem usar diretamente IA generativa. O uso em sala de aula, com supervisão, pode começar por volta dos 13 ou 14 anos.
Um documento a que a Euronews teve acesso indica que a Comissão Europeia vai propor proibir o acesso de menores de 15 anos a serviços online considerados de risco, como chatbots de IA, numa proposta legislativa que será publicada na quinta-feira.
OpenAI e Anthropic negoceiam salvaguardas semelhantes
Especialistas consideram que as disposições de segurança do acordo nos EUA são relevantes, mas alguns alertam que salvaguardas mais robustas não devem ser interpretadas automaticamente como um aval a um maior uso da IA nas escolas.
“Receio que uma estrutura tão mediática como esta seja mal interpretada e que as escolas pensem: ‘Se estão a fazer um bom trabalho em matéria de privacidade e segurança dos dados, então isso significa que devemos usar a ferramenta’”, afirmou Josh Golin, diretor executivo da organização norte-americana Fairplay, dedicada à segurança online.
Golin defende que as normas só serão eficazes se outras grandes empresas de IA também aderirem.
“A Google vai adotar este enquadramento? Essa é uma grande questão”, acrescentou.
A Google enfrentou críticas nos Estados Unidos depois de, em agosto, ter alargado as ferramentas baseadas no Gemini no Google Classroom às contas escolares usadas por alunos menores de 18 anos.
Críticos descrevem esta expansão como mais um passo na competição entre gigantes tecnológicos para implantarem os seus produtos de IA nas escolas e chegarem a utilizadores mais jovens. A Google afirma que o Classroom é usado por mais de 150 milhões de professores e alunos em todo o mundo.
O sindicato de professores está igualmente em negociações com a OpenAI e a Anthropic, que saudaram publicamente o acordo com a Microsoft.
A OpenAI, criadora do ChatGPT, classificou-o como “um marco importante para a segurança e a privacidade da IA nas escolas”. A empresa afirmou que tem trabalhado com o sindicato de professores e espera concluir o seu próprio acordo.
A Anthropic, responsável pelo Claude, disse apoiar igualmente os esforços para promover um uso responsável da IA na educação e que está a trabalhar com o sindicato em normas de segurança e privacidade.