Investigação do Guardian apurou que os resumos gerados por IA da Google apresentavam informação de saúde imprecisa.
A Google terá removido alguns resumos de IA para perguntas relacionadas com saúde, na sequência de uma investigação que concluiu que parte da informação era enganosa.
Os resumos de IA são resumos gerados por inteligência artificial que surgem no topo dos resultados de pesquisa em resposta a um tema ou a uma pergunta.
Uma investigação do jornal The Guardian concluiu que alguns desses resumos continham informação de saúde imprecisa, colocando as pessoas em risco.
O jornal verificou que a "vista geral de IA" apresentava muitos números com pouco contexto em respostas a perguntas como "qual é o intervalo normal nos testes sanguíneos do fígado?" e "qual é o intervalo normal nos testes às funções hepáticas?". As respostas não tinham em conta variações por nacionalidade, sexo, origem étnica ou idade.
Para ambas as perguntas, o resultado de pesquisa da Google apresentou um excerto em destaque, um parágrafo extraído do site mais relevante para a pergunta do utilizador, no topo dos resultados.
Em ambos os casos, a Google optou por extrair, no seu excerto em destaque, as faixas de valores considerados saudáveis para vários tipos de substâncias presentes no fígado, como a alanina aminotransferase (ALT), que regula a produção de energia, a aspartato aminotransferase (AST), que deteta células sanguíneas danificadas, e a fosfatase alcalina (ALP), que ajuda a decompor proteínas.
Segundo o Guardian, a Google foi buscar os números à Max Healthcare, uma cadeia hospitalar privada indiana, em Nova Deli.
Os excertos em destaque são diferentes dos resumos porque o texto não é gerado por IA.
A investigação do Guardian apurou que variações dessas perguntas, como «[liver function test] lft reference range» ou «lft test reference range», continuavam a gerar resumos de IA. Os testes às funções hepáticas são análises ao sangue que medem proteínas e enzimas para avaliar o funcionamento do fígado.
Segundo o jornal, a Google aconselhou pessoas com cancro do pâncreas a evitarem alimentos ricos em gordura, recomendação que especialistas disseram ao Guardian não ser adequada, por poder aumentar o risco de morte pela doença.
A investigação do Guardian surge numa altura em que especialistas soam o alarme sobre as "alucinações" dos chatbots de IA, isto é, quando não têm a informação correta, inventam respostas.
A Euronews contactou a Google para perguntar se tinha removido os resumos de IA de algumas pesquisas sobre saúde, mas não obteve resposta imediata.
A Google anunciou este fim de semana que vai acrescentar a vista geral de IA ao seu serviço de email, o Gmail.
A nova funcionalidade permite aos utilizadores fazer perguntas e obter respostas sobre os seus emails, em vez de fazerem uma pesquisa por palavras‑chave.