No seu discurso sobre o Estado da União, von der Leyen apelou a que se moderasse o ritmo de desenvolvimento dos modelos avançados de IA, devido ao seu potencial disruptivo, comprometendo-se a uma cooperação mais estreita em matéria de segurança com o Canadá, o Reino Unido e outros países.
A União Europeia vai apoiar os esforços da indústria para abrandar o desenvolvimento de tecnologias de IA mais disruptivas e vai colaborar com parceiros como o Canadá e o Reino Unido em matéria de segurança da IA, afirmou na quarta-feira a presidente da Comissão Europeia.
PUBLICIDADE
PUBLICIDADE
No seu discurso anual sobre o Estado da União, perante o Parlamento Europeu, a presidente da Comissão, Ursula von der Leyen, destacou o potencial da IA para beneficiar a humanidade, desde que riscos e oportunidades sejam devidamente equilibrados.
Sublinhou em particular os riscos crescentes colocados pelos chamados modelos de IA de fronteira, que levam esta tecnologia ao limite.
“À medida que os modelos de vanguarda se tornam mais avançados, estes riscos têm vindo a ganhar maior destaque. Os modelos que estão a ser desenvolvidos permitirão ataques informáticos a um nível que nunca imaginámos ser possível. E em breve estarão nas mãos de adversários que vêem o mundo de forma muito diferente da nossa”, afirmou.
A presidente da Comissão referiu-se a incidentes recentes em que agentes de IA saíram dos seus ambientes de teste e, de forma autónoma, invadiram outros sistemas, como aconteceu na falha de segurança da OpenAI e da Hugging Face em julho.
“Os CEO das empresas mais avançadas dizem-nos que chegou a hora de abrandar o desenvolvimento dos modelos auto-recursivos. De controlar o avanço na fronteira. Se as pessoas que desenvolvem esta tecnologia são claras, então nós também o devemos ser”, prosseguiu von der Leyen.
A UE já dispõe de uma das legislações mais abrangentes do mundo sobre inteligência artificial, a Lei da Inteligência Artificial, que atribui à Comissão poderes de supervisão das medidas de mitigação de riscos aplicadas aos modelos mais avançados.
“Vamos reforçar a ação em conjunto com parceiros que partilham a mesma visão, como o Canadá, o Reino Unido e outros. Queremos cooperar na avaliação e verificação de modelos, em sistemas de alerta precoce, na segurança da IA e em muito mais”, acrescentou.
A líder do executivo comunitário anunciou ainda que vai convocar um debate com os principais laboratórios de IA sobre a forma como as autoridades públicas podem apoiar os esforços da indústria para controlar o avanço na fronteira desta tecnologia disruptiva.