Una investigación de The Guardian ha revelado que la información sanitaria falsa y engañosa en los resúmenes generados por inteligencia artificial de Google está poniendo en riesgo la salud de las personas.
La compañía ha afirmado que sus AI Overviews, que utilizan inteligencia artificial generativa para proporcionar resúmenes de información esencial sobre un tema o pregunta, son “útiles” y “fiables”. Sin embargo, algunos de estos resúmenes, que aparecen en la parte superior de los resultados de búsqueda, han proporcionado información sanitaria inexacta y potencialmente peligrosa.
En un caso considerado “realmente peligroso” por expertos, Google aconsejó erróneamente a personas con cáncer de páncreas que evitaran los alimentos ricos en grasas. Los expertos señalan que esto es exactamente lo contrario de lo que se debería recomendar, y podría aumentar el riesgo de muerte de los pacientes.
Otro ejemplo “alarmante” reveló información errónea sobre pruebas cruciales de la función hepática, lo que podría llevar a personas con enfermedades hepáticas graves a creer erróneamente que están sanas.
Las búsquedas en Google sobre pruebas de cáncer en mujeres también proporcionaron información “completamente incorrecta”, lo que, según los expertos, podría llevar a las personas a ignorar síntomas genuinos.
Un portavoz de Google afirmó que muchos de los ejemplos de salud compartidos eran “capturas de pantalla incompletas”, pero que, según su evaluación, los resultados enlazaban a “fuentes reputadas y conocidas” y recomendaban buscar el consejo de expertos.
La investigación de The Guardian se produce en un momento de creciente preocupación por la posibilidad de que los datos de la IA confundan a los consumidores, quienes podrían asumir que son fiables. Un estudio del pasado mes de noviembre reveló que los chatbots de IA en diversas plataformas ofrecieron asesoramiento financiero inexacto, mientras que se han planteado preocupaciones similares sobre resúmenes de noticias.
Sophie Randall, directora del Patient Information Forum, que promueve información sanitaria basada en pruebas a pacientes, al público y a los profesionales de la salud, señaló que los ejemplos demuestran que “los AI Overviews de Google pueden colocar información sanitaria inexacta en la parte superior de las búsquedas en línea, lo que supone un riesgo para la salud de las personas”.
Stephanie Parker, directora digital de Marie Curie, una organización benéfica de cuidados paliativos, declaró: “Las personas recurren a Internet en momentos de preocupación y crisis. Si la información que reciben es inexacta o está fuera de contexto, puede perjudicar gravemente su salud”.
The Guardian descubrió varios casos de información sanitaria inexacta en los AI Overviews de Google después de que varios grupos de salud, organizaciones benéficas y profesionales expresaran su preocupación.
Anna Jewell, directora de apoyo, investigación e influencia de Pancreatic Cancer UK, afirmó que aconsejar a los pacientes que eviten los alimentos ricos en grasas es “completamente incorrecto”. Hacerlo “podría ser realmente peligroso y poner en peligro las posibilidades de una persona de estar lo suficientemente bien como para recibir tratamiento”, añadió.
Jewell explicó: “La respuesta de la IA de Google sugiere que las personas con cáncer de páncreas eviten los alimentos ricos en grasas y proporciona una lista de ejemplos. Sin embargo, si alguien siguiera lo que indica el resultado de la búsqueda, podría no consumir suficientes calorías, tener dificultades para ganar peso y ser incapaz de tolerar la quimioterapia o una cirugía que podría salvarle la vida”.
Al buscar “what is the normal range for liver blood tests” (¿cuál es el rango normal para las pruebas de sangre hepáticas?), también se obtuvieron resultados engañosos, con gran cantidad de números, poco contexto y sin tener en cuenta la nacionalidad, el sexo, la etnia o la edad de los pacientes.
Pamela Healy, directora ejecutiva de la British Liver Trust, calificó los resúmenes de la IA como alarmantes. “Muchas personas con enfermedades hepáticas no presentan síntomas hasta las etapas avanzadas, por lo que es tan importante que se hagan pruebas. Pero lo que los AI Overviews de Google dicen que es ‘normal’ puede variar drásticamente de lo que realmente se considera normal.
“Es peligroso porque significa que algunas personas con enfermedades hepáticas graves pueden pensar que tienen un resultado normal y luego no molestarse en asistir a una cita de seguimiento con un profesional de la salud”.
Una búsqueda de “vaginal cancer symptoms and tests” (síntomas y pruebas del cáncer vaginal) incluyó la prueba de Papanicolaou como una prueba para el cáncer vaginal, lo cual es incorrecto.
Athena Lamnisos, directora ejecutiva de la organización benéfica contra el cáncer Eve Appeal, dijo: “No es una prueba para detectar el cáncer, y ciertamente no es una prueba para detectar el cáncer vaginal: esta es información completamente incorrecta. Obtener información incorrecta como esta podría llevar a que alguien no se haga revisar los síntomas del cáncer vaginal porque obtuvo un resultado claro en un cribado cervical reciente.
“También nos preocupaba el hecho de que el resumen de la IA cambiara cuando hicimos la misma búsqueda exactamente, obteniendo una respuesta diferente cada vez que se basaba en diferentes fuentes. Eso significa que las personas están obteniendo una respuesta diferente según el momento en que buscan, y eso no es suficiente”.
Lamnisos expresó su gran preocupación. “Algunos de los resultados que hemos visto son realmente preocupantes y podrían poner en peligro a las mujeres”, afirmó.
The Guardian también descubrió que los AI Overviews de Google ofrecían resultados engañosos para las búsquedas sobre afecciones de salud mental. “Esto es una gran preocupación para nosotros como organización benéfica”, dijo Stephen Buckley, jefe de información de Mind.
Algunos de los resúmenes de la IA para afecciones como la psicosis y los trastornos alimentarios ofrecieron “consejos muy peligrosos” y eran “incorrectos, perjudiciales o podrían llevar a las personas a evitar buscar ayuda”, dijo Buckley.
También se omitió contexto o matices importantes, añadió. “Podrían sugerir acceder a información de sitios web inapropiados… y sabemos que cuando la IA resume información, a menudo puede reflejar sesgos, estereotipos o narrativas estigmatizantes existentes”.
Google afirmó que la gran mayoría de sus AI Overviews eran fácticos y útiles, y que mejoraba continuamente la calidad. La tasa de precisión de los AI Overviews era comparable a la de otras funciones de búsqueda, como los fragmentos destacados, que existen desde hace más de una década, añadió.
La compañía también dijo que cuando los AI Overviews malinterpretaran el contenido web o perdieran contexto, tomaría las medidas adecuadas según sus políticas.
Un portavoz de Google dijo: “Invertimos mucho en la calidad de los AI Overviews, especialmente en temas como la salud, y la gran mayoría proporciona información precisa”.
