Mais de 100 organizações internacionais defendem que as empresas de IA, e não os pais, devem ser responsáveis pela proteção das crianças
Mais de 100 organizações, incluindo a Amnistia Internacional e a Save the Children, apelam aos governos para que tornem a inteligência artificial segura para as crianças, num apelo conjunto lançado um dia antes de as Nações Unidas realizarem a sua primeira cimeira global sobre governação da IA.
PUBLICIDADE
PUBLICIDADE
A coligação, liderada pela organização de direitos das crianças 5Rights Foundation, afirma que a IA já está a causar danos às crianças e que as atuais abordagens regulatórias falham por só intervir quando é demasiado tarde.
O alerta surge numa altura em que se multiplicam as ações judiciais contra empresas de IA, como a Character Technologies e a OpenAI, devido aos efeitos da tecnologia nas crianças, em particular dos chatbots de companhia concebidos para simular relações emocionais duradouras, e em que se alega que estes chatbots de IA são comercializados como seguros para crianças sem avisos adequados.
Num comunicado divulgado na segunda-feira, antes do primeiro Diálogo Global sobre Governação da IA das Nações Unidas, o grupo sustenta que os governos devem atacar os modelos de negócio que, afirma, estão na origem do problema.
"As crianças deram-nos um diagnóstico claro do problema", afirmou Leanda Barrington-Leach, diretora executiva da 5Rights.
"Não nos estão a pedir que travemos a inovação em IA, mas também não pode limitar-se a limpar os estragos depois de o dano estar feito."
A coligação reclama dez medidas que quer ver adotadas pelos governos para evitar danos às crianças.
Entre elas estão a obrigação de as empresas demonstrarem que os sistemas de IA são seguros para crianças antes de serem lançados, a imposição de sanções financeiras às empresas cujos produtos violem os direitos das crianças, a proibição de características de conceção que explorem vulnerabilidades psicológicas das crianças e a interdição do uso comercial de imagens, vozes e dados biométricos de crianças.
O grupo defende que não são necessárias novas leis para o concretizar, apenas a aplicação dos compromissos que os governos já assumiram ao abrigo da Convenção das Nações Unidas sobre os Direitos da Criança e do Pacto Digital Global da ONU, um quadro internacional que vincula os Estados a respeitar o direito internacional e os direitos humanos no espaço digital.
"Enquanto as empresas forem recompensadas pela rapidez, pelo envolvimento e pela recolha de dados, em vez da segurança, continuaremos a tratar os sintomas enquanto a doença se torna endémica", afirmou, acrescentando que o respeito pelos direitos das crianças "tem de passar a ser uma condição para fazer negócios, não um extra opcional", concluiu Barrington-Leach.