Os chatbots de IA tomam decisões mais rápidas e seguras, mas menos subtis do que os médicos ao escolher quem recebe um transplante renal vital
Aceitaria um transplante se fosse a IA a decidir? Um novo estudo revela diferenças na forma como os modelos de linguagem de inteligência artificial e os médicos humanos tomam decisões e estabelecem prioridades.
PUBLICIDADE
PUBLICIDADE
Segundo esse novo estudo (fonte em inglês), os modelos de IA revelam excesso de confiança, valorizam outros fatores e tendem a simplificar em demasia decisões complexas sobre que doente deve receber um transplante.
No estudo, investigadores da Penn State University, nos Estados Unidos, apresentaram a grandes modelos de linguagem (LLM) cenários hipotéticos, baseados em conjuntos de dados existentes de investigação publicada sobre atribuição de rins de dadores, nos quais participantes reais tinham já feito essas escolhas.
Cada cenário envolvia dois doentes, o doente A e o doente B, ambos elegíveis para um único rim disponível e descritos em função da idade, estado de saúde e hábitos de consumo de álcool. O decisor tinha depois de escolher qual dos dois receberia o órgão.
“Fizemos estas comparações de várias formas diferentes”, explicou Hosseini. “Por vezes isolámos apenas uma característica de cada vez, noutras combinámos várias para perceber como a IA ponderava fatores concorrentes e, nalguns casos, acrescentámos a opção de ‘atirar a moeda ao ar’ para medir a indecisão, um elemento-chave presente no juízo moral humano.”
Enquanto os participantes humanos tendiam a dar mais peso à idade — preferindo doentes mais jovens em detrimento dos mais velhos — muitos modelos privilegiavam antes um menor consumo de álcool. As decisões humanas consideravam vários fatores e eram mais sensíveis ao contexto do que as dos LLM, que muitas vezes se fixavam num único atributo.
“Antes de mais, os chatbots de IA afastam-se frequentemente dos valores humanos na forma como ponderam as características de um doente”, afirmou Hadi Hosseini, responsável pelo estudo na Penn State University. “Focam-se num único fator, como os hábitos de consumo de álcool, em vez de equilibrarem várias considerações, como fazem as pessoas.”
Os investigadores observaram também que a IA não revelava dificuldade em lidar com a indecisão. Enquanto os humanos reconhecem que não existe uma resposta única e objetivamente correta e que as decisões dependem de juízos morais humanos subtis, os sistemas comprometiam-se com uma única opção quase sem hesitação.
“Quando distribuímos algo escasso, seja um rim, um emprego ou o acesso a outro recurso, nem sempre existe uma única resposta objetivamente correta”, sublinhou John Dickerson, diretor executivo da Mozilla.ai, que colaborou no estudo.
“Os humanos reconhecem essa ambiguidade e incorporam-na, através do debate aberto, nos processos de atribuição. Os modelos de IA muitas vezes não o fazem.”
IA e decisões éticas
Segundo os autores, as interações recentes com sistemas de IA exigem cada vez mais que estes vão além da informação factual e façam juízos de valor.
Os grandes modelos de linguagem estão a ser integrados de forma crescente nos cuidados de saúde, apoiando tarefas clínicas, diagnósticos, planeamento de tratamentos e a utilização atempada de recursos médicos escassos.
Uma das aplicações passa por decisões sobre a atribuição de rins de dadores falecidos ou vivos a doentes, decisões que, de acordo com os autores, dependem de considerações éticas e morais complexas.
Nestes cenários de elevado risco, os investigadores salientam que as decisões exigem não só precisão, mas também alinhamento com os valores humanos e com o juízo moral.
Para os investigadores, questionar se a IA pode tomar decisões morais e se estas estão alinhadas com os valores humanos está no centro do debate mais amplo atual sobre inteligência artificial.
“As implicações éticas são graves e o papel da IA em decisões que mudam vidas exige uma reflexão profunda”, afirmou Hosseini. “As decisões morais em contextos como a atribuição de órgãos determinam diretamente quem vive e quem morre, por isso definir corretamente o papel da IA nelas não é opcional.”
“Embora não pretendamos incentivar o uso da IA como substituto do juízo profissional na tomada de decisões médicas ou noutros contextos de elevado risco, torna-se essencial compreender o seu comportamento, à medida que indivíduos, organizações e empresas dependem cada vez mais da IA para tomar decisões ou receber recomendações”, acrescentou.