Você está com dor de cabeça ou sinusite? Qual a sensação de uma fratura por estresse? Deve se preocupar com dor no peito? Se pesquisar essas perguntas no Google agora, as respostas talvez sejam escritas por inteligência artificial.
Neste mês, o Google lançou um novo recurso chamado A.I. Overviews que usa inteligência artificial generativa, um tipo de tecnologia de aprendizado treinado com informações de toda a internet, produzindo respostas conversacionais para algumas perguntas em questão de segundos.
Desde o lançamento da ferramenta, usuários encontraram uma ampla gama de imprecisões e respostas estranhas para uma variedade de assuntos. Mas quando se trata de como ele responde a perguntas de saúde, especialistas disseram que os riscos podem ser particularmente altos.
A tecnologia pode direcionar as pessoas para hábitos mais saudáveis ou cuidados médicos necessários, mas também tem o potencial de fornecer informações imprecisas. A IA às vezes pode até fabricar fatos. Se suas respostas forem moldadas por sites que não estão fundamentados na ciência, pode oferecer conselhos que vão contra orientações médicas ou que representam riscos para a saúde.
Já foi demonstrado que o programa pode produzir respostas ruins, aparentemente baseadas em fontes falhas. Quando perguntado “quantas pedras devo comer”, por exemplo, o I.A. Overviews respondeu a alguns usuários para comerem, pelo menos, uma pedra por dia para vitaminas e minerais. (O conselho foi retirado do The Onion, um site satírico.)
“Você não pode confiar em tudo o que lê”, explicou Karandeep Singh, diretor de IA de saúde da Universidade de San Diego, na Califórnia. Na saúde, a fonte de suas informações é essencial, disse.
Hema Budaraju, diretora sênior de gerenciamento de produtos do Google que ajuda a liderar o trabalho na visão geral da IA, informou que as pesquisas sobre saúde tinham “proteções adicionais”, mas se recusou a descrevê-las em detalhes. Buscas consideradas perigosas ou explícitas, ou que indicam que alguém está em uma situação vulnerável, como automutilação, não acionam resumos de IA, disse.
O Google se recusou a fornecer uma lista detalhada de sites que suportam as informações nas visões gerais de IA, mas disse que a ferramenta funcionava em conjunto com o Google Knowledge Graph, um sistema de informação existente que extraiu bilhões de fatos de centenas de fontes.
As novas respostas de pesquisa especificam algumas fontes para questões de saúde, geralmente são sites como a Mayo Clinic, WebMD, OMS (Organização Mundial da Saúde) e o centro de pesquisa científica PubMed. Mas a ferramenta também pode ser extrair conteúdo de portais como Wikipedia, postagens de blogs, do Reddit e de sites de comércio eletrônico sem informar aos usuários quais fatos vieram de quais fontes.
Com um resultado de pesquisa padrão, muitos usuários seriam capazes de distinguir imediatamente um site médico confiável de uma empresa qualquer. Mas um único bloco de texto que combina informações de múltiplas fontes pode causar confusão.
“E isso se as pessoas ao menos olharem para a fonte”, disse Seema Yasmin, diretora da Comunicação de Saúde da Universidade de Stanford, acrescentando: “Não sei se as pessoas estão olhando ou se realmente as ensinamos adequadamente a olhar.” Ela disse que sua própria pesquisa sobre desinformação a deixou pessimista quanto ao interesse do usuário médio em ir além de uma resposta rápida.
Quanto à precisão da resposta ao perguntar sobre chocolate à ferramenta, Dariush Mozaffarian, cardiologista e professor de medicina na Universidade Tufts (EUA), disse que alguns fatos eram em sua maioria corretos e que resumia a pesquisa sobre os benefícios do chocolate para a saúde, mas sem fazer distinção entre evidências fornecidas por ensaios aleatórios de evidências mais fracas de estudos observacionais, disse ele, não fornecendo ainda quaisquer advertências sobre as evidências.
É verdade que o chocolate contém antioxidantes, disse o Mozaffarian. Mas a alegação de que o consumo de chocolate poderia ajudar a prevenir a perda de memória? Isso não foi claramente provado e “precisa de muitas advertências”, afirmou. Ter tais afirmações listadas lado a lado dá a impressão de que algumas estão mais bem estabelecidas do que realmente estão.
As respostas também podem mudar à medida que a própria IA evolui, mesmo quando a ciência por trás de uma determinada resposta não tenha mudado.
Um porta-voz do Google disse em comunicado que a empresa trabalhou para mostrar isenções de responsabilidade nas respostas onde fosse necessário, incluindo notas de que as informações não deveriam ser tratadas como aconselhamento médico.
Não está claro como exatamente as visões gerais por IA avaliam evidências ou se levam em consideração resultados de pesquisas contraditórias, como aquelas sobre os benefícios do café. “A ciência não é um monte de fatos estáticos”, disse Yasmin. Ela e outros especialistas também questionaram se a ferramenta se basearia em descobertas científicas mais antigas que já foram refutadas ou se não captaria a compreensão mais recente de um problema.
“Ser capaz de tomar uma decisão crítica —discriminar a qualidade das fontes— é isso que os humanos fazem o tempo todo, o que os médicos fazem”, afirmou Danielle Bitterman, médica-cientista em inteligência artificial do Instituto de Câncer e Hospital da Mulher Dana-Farber e Brigham. “Eles estão analisando as evidências.”
Se quisermos que ferramentas como as visões gerais de IA desempenhem esse papel, “precisamos entender melhor como eles navegariam pelas diferentes fontes e como aplicariam uma lente crítica para chegar a um resumo”, disse a médica.
Essas incógnitas são preocupantes, afirmam os especialistas, visto que o novo sistema eleva a resposta da visão geral da IA em relação aos links individuais para sites médicos respeitáveis, como os da Mayo Clinic e da Cleveland Clinic. Esses portais historicamente alcançaram o topo dos resultados em muitas pesquisas sobre saúde.
Um porta-voz do Google disse que as visões gerais da IA corresponderão ou resumirão as informações que aparecem nos principais resultados das pesquisas, mas não foram projetadas para substituir esse conteúdo. Em vez disso, disse o representante, ele foi projetado para ajudar os usuários a terem uma noção das informações disponíveis.
A Mayo Clinic não quis comentar as novas respostas. Um representante da Cleveland Clinic disse que as pessoas que procuram informações sobre saúde devem “buscar diretamente fontes conhecidas e confiáveis” e procurar um profissional de saúde se apresentarem algum sintoma.
Um representante da Scripps Health, um sistema de saúde com sede na Califórnia (EUA) citado em alguns resumos da AI Overview, disse em um comunicado que “as citações nas respostas geradas pela IA do Google podem ser úteis, pois estabelecem a Scripps Health como uma fonte confiável de informações de saúde”.
No entanto, acrescentou o representante, “temos preocupações de que não podemos garantir o conteúdo produzido através da IA da mesma forma que podemos garantir o nosso próprio conteúdo, que é examinado pelos nossos profissionais médicos”.
Para questões médicas, não é apenas a precisão de uma resposta que importa, mas como ela é apresentada aos usuários, dizem os especialistas. Faça a pergunta “Estou tendo um ataque cardíaco?” A resposta da IA apresentou uma sinopse útil dos sintomas, disse Richard Gumina, diretor de medicina cardiovascular do Centro Médico Wexner da Universidade Estadual de Ohio.
Mas, acrescentou, ele teve que ler uma longa lista de sintomas antes que o texto o aconselhasse a ligar para o 911. Gumina também pesquisou “Estou tendo um derrame?” para ver se a ferramenta poderia produzir uma resposta mais urgente —o que aconteceu, dizendo aos usuários na primeira linha para ligarem para o 911. Ele disse que aconselharia imediatamente os pacientes com sintomas de ataque cardíaco ou derrame a pedirem ajuda.
Os especialistas encorajaram as pessoas que procuram informações sobre saúde a abordar as novas respostas com cautela. Essencialmente, disseram eles, os usuários devem observar as letras miúdas em algumas respostas das visões gerais da IA: “Isso é apenas para fins informativos. Para aconselhamento médico ou diagnóstico, consulte um profissional. A IA generativa é experimental”.
Colaborou Dani Blum
