OpenAI presentó en enero ChatGPT Health, una herramienta capaz de analizar los registros médicos de los usuarios, datos de aplicaciones de bienestar y mediciones de dispositivos portátiles. Anthropic, su competidor, ofrece funcionalidades similares a través de su chatbot Claude. Ambas compañías enfatizan que estos modelos de lenguaje de gran tamaño (LLM) no sustituyen la atención médica profesional ni son aptos para realizar diagnósticos. No obstante, las soluciones de IA generativa pueden ser de ayuda para interpretar análisis complejos, prepararse para consultas médicas o identificar tendencias importantes en la salud a partir de conjuntos de datos disponibles.
Una de las principales ventajas de estos nuevos chatbots es su capacidad para considerar el historial médico del usuario –incluyendo medicamentos que toma, edad y registros médicos previos– al formular respuestas. Según Robert Wachter, experto en tecnología médica de la Universidad de California en San Francisco (UCSF), esto permite obtener respuestas mucho más personalizadas que las que se encontrarían en una simple búsqueda en internet.
La alternativa suele ser la nada, o que el paciente confíe en su propio criterio.
–afirmó Wachter, quien recomienda un uso responsable de los chatbots y proporcionar la mayor cantidad de detalles posible.
Sin embargo, no se deben subestimar los riesgos para la privacidad. En Estados Unidos, la ley federal HIPAA regula estrictamente cómo médicos, hospitales y aseguradoras pueden manejar los datos de los pacientes, aunque
esta normativa no se aplica a las empresas que desarrollan chatbots.
“Cuando alguien carga su historial médico en un modelo de lenguaje grande, es muy diferente a cuando se lo entrega a un nuevo médico”, advirtió Lloyd Minor, decano de la facultad de medicina de la Universidad de Stanford. OpenAI y Anthropic aseguran que los datos de salud se almacenan de forma aislada, no se utilizan para entrenar sus modelos y los usuarios pueden revocar su consentimiento en cualquier momento.
Las pruebas independientes de esta tecnología aún están en sus primeras etapas, y los resultados hasta ahora son mixtos. Un estudio reciente de la Universidad de Oxford, con la participación de 1300 personas, reveló que aquellos que buscaron información sobre temas de salud utilizando chatbots
no tomaron mejores decisiones que aquellos que recurrieron a búsquedas en internet o a su propio juicio.
Si bien los chatbots identificaron correctamente la enfermedad en el 95% de los casos, basándose en estudios de casos detallados y escritos, su rendimiento disminuyó significativamente al interactuar con usuarios reales. Según Adam Mahdi, líder de la investigación,
la causa del problema fue, a menudo, la falta de información proporcionada por los usuarios.
Esto llevó a que los chatbots ofrecieran respuestas correctas e incorrectas mezcladas, las cuales los usuarios tenían dificultades para distinguir.
Wachter considera que una de las principales áreas de desarrollo para los chatbots es su capacidad para obtener detalles esenciales de los usuarios a través de preguntas dirigidas, tal como lo haría un médico en una consulta. El experto aconseja a quienes recurran a chatbots para cuestiones de salud que utilicen múltiples sistemas en paralelo, como una “segunda opinión”. En caso de síntomas urgentes –como dificultad para respirar, dolor en el pecho o dolor de cabeza intenso–, sin embargo, se debe buscar atención médica inmediata.
Címlapkép forrása: Shutterstock
