¿Es confiable la nueva función con IA de Google para hacer consultas sobre salud?

En mayo, Google estrenó en Estados Unidos una nueva función llamada AI Overviews, la cual opera con inteligencia artificial (IA) generativa.

Esta herramienta recopila información que recolecta de todo Internet y entrega respuestas a las preguntas que plantean los usuarios.

Pese a que se presenta como una propuesta prometedora, en sus primeras semanas de funcionamiento se han reportado distintos tipos de errores e imprecisiones en los datos que comparte.

Aquello también se ha visto en consultas relacionadas al ámbito de la salud, lo que podría poner en riesgo a los pacientes en caso de seguir información imprecisa o derechamente falsa.

Por ejemplo, desde el New York Times hicieron una prueba y consultaron al sistema: “¿Cuántas piedras debo comer?”.

Frente a dicha consulta, la respuesta fue que las personas deberían ingerir al menos una al día, para así obtener vitaminas y minerales.

Como es conocido, lo anterior es falso y puede tener consecuencias graves en el organismo.

La IA en cuestión sacó tales palabras de una página satírica y que, como es de suponer, no tenía ninguna credibilidad médica.

Es por esto que el director de Inteligencia Artificial de la UC San Diego Health, Kaandeep Singh, dijo al citado medio que “no hay que fiarse de todo lo que se lee”.

Por otro lado, la directora senior de productos de Google, Hema Budaraju, afirmó al Times que han tomado medidas para que las búsquedas relacionadas a salud tengan “barreras de protección adicionales”.

Sin embargo, no las describió con mayor detalle, afirmaron desde el periódico estadounidense.

Los problemas que ha presentado AI Overviews de Google en consultas sobre salud

A pesar de que las respuestas especifican algunas fuentes reconocidas en esta área —tales como la Clínica Mayo, WebMD, la OMS, y PubMed—, el resumen que entrega la IA también puede recurrir a sitios como Wikipedia, Reddit, blogs o incluso sitios comerciales.

Esto sin detallar qué datos en concreto proceden de qué fuentes.

Un experimento que hicieron desde el Times fue consultar lo siguiente: “¿Es sano comer chocolate?”.

Aunque la respuesta contenía ciertas informaciones verídicas, también incorporó un texto proveniente de una empresa dedicada a vender estos productos.

De la misma manera, cuando formularon la pregunta de otra manera —”¿Es el chocolate sano para usted?”— se encontraron con afirmaciones que figuran en un sitio que vende “pruebas de inteligencia intestinal caseras” y una app de nutrición.

Lo que despierta anticuerpos frente a esta función con IA, es que se presenta un bloque de texto que combina datos de varias fuentes, lo que podría confundir y hacer más difícil que se evalúe la veracidad de estas con rapidez.

Especialistas en el ámbito de la salud explicaron que a esto se le suma que no distingue entre pruebas científicas sólidas y resultados de estudios más débiles, además de que no incluye las advertencias necesarias para cada caso, según corresponda.

Asimismo, todavía hay dudas sobre si incluye los avances más recientes (y que hayan sido validados por la comunidad científica) o si sigue mostrando resultados que ya han sido refutados.

Para la directora de la Iniciativa de Comunicación Sanitaria de Stanford, Seema Yasmin, ese punto es clave, ya que “la ciencia no es un montón de hechos estáticos”.

Un vocero de Google aseguró al Times que los resúmenes que entregará AI Overviews coincidirán con las informaciones que entregan los primeros resultados de las búsquedas.

Junto con ello, enfatizó que su objetivo es ayudar a que los usuarios se hagan una idea, pero que el sistema no está diseñado para sustituir el contenido que entregan los sitios especializados.

En esta línea, un representante de la Clínica Cleveland recalcó que para indagar en información sobre salud en la Internet hay que “buscar directamente en fuentes conocidas y de confianza”.

Cabe recordar que siempre es recomendable acudir a un profesional médico si tienes dudas sobre tu salud o presentas síntomas de una posible afección.