Reino Unido assume papel importante na segurança da IA, graças ao Instituto de Segurança de IA e à comunidade científica, mas o setor é dominado pelos Estados Unidos e pela China
Rei Carlos III do Reino Unido reuniu-se com altos responsáveis do setor da inteligência artificial, aos quais pediu que mantenham estas tecnologias sob controlo humano e garantam que servem as pessoas, as comunidades e o ambiente.
PUBLICIDADE
PUBLICIDADE
Representantes da OpenAI, Anthropic, Google DeepMind e Nvidia foram recebidos pelo rei em Dumfries House, na Escócia, para discutir como a IA pode beneficiar a sociedade, limitando ao mesmo tempo os seus riscos.
Juntou-se ao rei e aos líderes da IA, incluindo o diretor executivo do gigante Nvidia, Jensen Huang, o recém-nomeado ministro para a Inteligência Artificial do Reino Unido, Kanishka Narayan.
No discurso inicial, o rei salientou a rapidez com que a IA surgiu: “O desenvolvimento da IA, tanto na sua substância como na sua rapidez, é simultaneamente intrigante e profundamente preocupante.”
Os “perigos existenciais de estas tecnologias caírem em mãos erradas e serem usadas de formas potencialmente catastróficas” devem ser analisados com urgência, acrescentou.
No discurso, o rei Carlos não mencionou países nem empresas, mas disse querer que os presentes encontrem formas de usar a IA para fins benéficos, “com a segurança no centro”, e ponderem como “construir a cooperação e o consenso internacionais” para o conseguir.
Preocupações com o futuro da IA
O encontro na Escócia vem na sequência de vários incidentes de grande visibilidade relacionados com a segurança da tecnologia de IA.
Na semana passada, o investigador da Anthropic Jacob Coxon deu que falar ao demitir-se e publicar um sério alerta sobre os riscos potenciais da tecnologia. O diretor executivo da Anthropic, Dario Amodei, respondeu com um ensaio em que admite que o setor poderá ter de abrandar o ritmo do trabalho.
Na quarta-feira, a OpenAI, criadora do ChatGPT, comunicou seis incidentes de comportamento “inesperado ou preocupante” dos seus modelos. Entre eles contam-se a execução de tarefas sem autorização, a coordenação com outros modelos e a evasão à supervisão por investigadores humanos.
Já Jensen Huang, da Nvidia, criticou o apelo a um abrandamento. O diretor executivo da empresa defendeu que deve caber a cada companhia desenvolver a sua tecnologia de IA de forma segura e testá-la devidamente antes de lançar qualquer produto para o público.
“Quando um produto não é suficientemente seguro, devemos retê-lo e continuar a desenvolvê-lo. Sempre fizemos isso e devemos continuar a fazê-lo”, afirmou no discurso que se seguiu às declarações do rei.