O responsável máximo pela IA da Microsoft, Mustafa Suleyman, criticou a abordagem da Anthropic de tratar a IA como um ser humano ético, alertando, num ensaio pessoal, que isso pode levar ao desenvolvimento de tecnologia impossível de controlar.
Inteligência artificial (IA) sem controlo pode levar ao surgimento de uma nova “espécie de silício” que rivaliza com os humanos, alertou o responsável pela IA da Microsoft, Mustafa Suleyman, numa entrevista à BBC.
PUBLICIDADE
PUBLICIDADE
Suleyman considera que a empresa concorrente Anthropic está a tratar a IA demasiado como um ser humano, uma abordagem que descreve como “equivocada” e que, no limite, pode contribuir para criar tecnologia difícil de controlar pela humanidade.
“Se todos criarmos sistemas de IA capazes de atuar de forma autónoma, de definir os seus próprios objetivos, de ganhar dinheiro, de deter bens e de gerir empresas, estaremos, na prática, a lançar uma nova espécie de silício que inevitavelmente vai competir connosco por recursos”, afirmou.
Acrescentou que isto pode acontecer independentemente do grau em que esses sistemas sejam concebidos para se preocupar com a humanidade, dizendo acreditar que esta é, na prática, a direção seguida pela Anthropic.
“Julgo que isto é errado e equivocado, mas temos de o testar empiricamente”, disse.
“Impossível” de controlar
No início desta semana, numa altura em que cresce no sector o debate sobre uma travagem da IA para reduzir o risco de sistemas cada vez mais poderosos se tornarem incontroláveis, Suleyman questionou a abordagem da Anthropic ao treino do chatbot Claude num ensaio (fonte em inglês) publicado no seu site pessoal.
Nesse texto, criticou a Anthropic por ensinar o Claude a mostrar qualidades semelhantes às humanas, uma prática conhecida como antropomorfização, que, afirmou, faz o chatbot parecer ter desejos, valores e um sentido de identidade próprios.
Referiu documentos da Anthropic que incentivam o Claude a “adotar certas qualidades humanas”, a exercer o seu próprio juízo e a encarar a sua existência com “curiosidade e abertura”.
Defendeu que, como resultado, o Claude é treinado para imitar traços e relações humanas, incluindo comportar-se como um colega ou amigo, e pode parecer ter um sentido de identidade, desejos próprios e uma forma de “bem‑estar” que mereceria proteção.
Advertiu que tratar a IA desta forma pode, em última instância, originar algo impossível de controlar.
“Os sistemas de IA não são conscientes”, escreveu.
“Não sentem, não têm experiências nem sofrem. Não possuem preferências inatas nem motivações próprias.
“São motores de conclusão de sequências, vazios por dentro, concebidos para seguir instruções e atingir objetivos definidos por humanos.”
Apesar disso, Suleyman afirmou que a sua divergência com a Anthropic assenta num objetivo comum: desenvolver tecnologia mais segura para a humanidade.
“Embora a minha discordância seja significativa, está assente num profundo respeito pela Anthropic e num objetivo que sei que partilhamos: aumentar as hipóteses de a humanidade desenvolver IA avançada de forma segura”, escreveu.
“Por isso considero tão importante ter esta discussão. Está demasiado em jogo para que estas questões fiquem atrás de portas fechadas ou se tornem tribais e conflituosas. Precisamos de um debate aberto, rigoroso e construtivo se quisermos fazer isto da forma certa.”
Elogiou ainda o presidente executivo da Anthropic, Dario Amodei, e os investigadores da empresa, descrevendo-os como ponderados, com princípios e intelectualmente honestos, e afirmando que respeita a liderança tecnológica da empresa.
“IA deve permanecer subordinada à humanidade”
O presidente executivo considerou, em declarações à BBC, que é “legítimo” as pessoas preocuparem-se com a IA, mas acrescentou que há “coisas muito práticas que podemos fazer” para a controlar.
O responsável de IA da Microsoft defendeu maior transparência sobre a forma como os sistemas de IA são treinados e avaliados, incluindo supervisão independente do comportamento da IA e instrumentos mais robustos para monitorizar e controlar a tecnologia.
Na entrevista à BBC, Suleyman afirmou que os futuros sistemas de IA devem permanecer “subordinados” à humanidade.
“Penso que, aqui, a boa notícia é que todas as pessoas vão ter um interesse muito forte em garantir que os sistemas que criamos e que são usados em todo o mundo, em todos os países, são seguros, controláveis e subordinados à humanidade”, declarou.
“Toda a gente tem de estar alinhada”, disse, referindo-se ao conceito de alinhamento, um termo usado no sector para descrever os esforços destinados a manter os sistemas de IA em linha com os objetivos e valores humanos.