El Dr. Sina Bari, cirujano en ejercicio y líder en inteligencia artificial para la salud en la empresa de datos iMerit, ha observado de primera mano cómo ChatGPT puede desorientar a los pacientes con consejos médicos erróneos.
“Recientemente, un paciente vino a verme y, tras recomendarle un medicamento, me mostró un diálogo impreso de ChatGPT que indicaba que este medicamento tenía un 45% de probabilidad de causar una embolia pulmonar”, relató el Dr. Bari a TechCrunch.
Tras investigar más a fondo, el Dr. Bari descubrió que la estadística provenía de un estudio sobre el impacto del medicamento en un subgrupo específico de personas con tuberculosis, lo cual no era aplicable a su paciente.
Sin embargo, cuando OpenAI anunció la semana pasada su chatbot dedicado ChatGPT Health, el Dr. Bari sintió más entusiasmo que preocupación.
ChatGPT Health, que se lanzará en las próximas semanas, permite a los usuarios conversar con el chatbot sobre su salud en un entorno más privado, donde sus mensajes no se utilizarán como datos de entrenamiento para el modelo de IA subyacente.
“Creo que es una excelente iniciativa”, afirmó el Dr. Bari. “Ya está sucediendo de todos modos, así que formalizarlo para proteger la información del paciente y establecer algunas salvaguardias […] lo hará aún más útil para los pacientes.”
Los usuarios podrán obtener orientación más personalizada de ChatGPT Health al cargar sus registros médicos y sincronizarlos con aplicaciones como Apple Health y MyFitnessPal. Para aquellos preocupados por la seguridad, esto plantea interrogantes importantes.
Techcrunch event
San Francisco
|
October 13-15, 2026
“De repente, los datos médicos se están transfiriendo de organizaciones que cumplen con la normativa HIPAA a proveedores que no la cumplen”, señaló Itai Schwartz, cofundador de la empresa de prevención de pérdida de datos MIND, en declaraciones a TechCrunch. “Por lo tanto, me pregunto cómo abordarán esto los reguladores.”
Pero, según algunos profesionales del sector, la situación ya está fuera de control. Ahora, en lugar de buscar síntomas de resfriado en Google, la gente habla con chatbots de IA; más de 230 millones de personas ya consultan a ChatGPT sobre temas de salud cada semana.
“Este era uno de los usos más importantes de ChatGPT”, explicó Andrew Brackin, socio de Gradient, una empresa que invierte en tecnología sanitaria, a TechCrunch. “Por lo tanto, tiene sentido que quieran crear una versión más privada, segura y optimizada de ChatGPT para estas preguntas relacionadas con la salud.”
Los chatbots de IA tienen un problema persistente con las alucinaciones, un problema particularmente delicado en el ámbito de la salud. Según el Modelo de Evaluación de Consistencia Factual de Vectara, el GPT-5 de OpenAI es más propenso a las alucinaciones que muchos modelos de Google y Anthropic. Sin embargo, las empresas de IA ven el potencial de rectificar las ineficiencias en el sector sanitario (Anthropic también anunció un producto de salud esta semana).
Para el Dr. Nigam Shah, profesor de medicina en Stanford y científico de datos jefe de Stanford Health Care, la falta de acceso a la atención médica para los pacientes estadounidenses es más urgente que la amenaza de que ChatGPT proporcione consejos erróneos.
“Actualmente, si acude a cualquier sistema de salud y quiere ver a un médico de cabecera, el tiempo de espera será de tres a seis meses”, dijo el Dr. Shah. “Si tiene que elegir entre esperar seis meses para ver a un médico real o hablar con algo que no es un médico pero que puede hacer algunas cosas por usted, ¿qué elegiría?”
El Dr. Shah cree que una vía más clara para introducir la IA en los sistemas de salud es a través de los proveedores, en lugar de directamente a los pacientes.
Las revistas médicas han informado a menudo que las tareas administrativas pueden consumir alrededor de la mitad del tiempo de un médico de atención primaria, lo que reduce el número de pacientes que pueden atender en un día. Si este tipo de trabajo pudiera automatizarse, los médicos podrían atender a más pacientes, lo que podría reducir la necesidad de que las personas utilicen herramientas como ChatGPT Health sin la supervisión de un médico real.
El Dr. Shah lidera un equipo en Stanford que está desarrollando ChatEHR, un software integrado en el sistema de registro electrónico de salud (EHR), que permite a los médicos interactuar con los registros médicos de los pacientes de una manera más eficiente y optimizada.
“Hacer que el registro médico electrónico sea más fácil de usar significa que los médicos pueden dedicar menos tiempo a buscar en cada rincón y grieta la información que necesitan”, explicó la Dra. Sneha Jain, una de las primeras en probar ChatEHR, en un artículo de Stanford Medicine artículo. “ChatEHR puede ayudarles a obtener esa información de inmediato para que puedan dedicar tiempo a lo que realmente importa: hablar con los pacientes y averiguar qué está sucediendo.”
Anthropic también está trabajando en productos de IA que pueden utilizarse en los ámbitos clínico y de las aseguradoras, en lugar de solo en su chatbot Claude de acceso público. Esta semana, Anthropic anunció Claude for Healthcare, explicando cómo podría utilizarse para reducir el tiempo dedicado a tareas administrativas tediosas, como la presentación de solicitudes de autorización previa a las aseguradoras.
“Algunos de ustedes ven cientos, miles de estos casos de autorización previa cada semana”, dijo Mike Krieger, director de producto de Anthropic, en una presentación reciente en la Conferencia de Atención Médica de J.P. Morgan. “Así que imaginen reducir de 20 a 30 minutos cada uno de ellos; eso supone un ahorro de tiempo considerable.”
A medida que la IA y la medicina se entrelazan cada vez más, existe una tensión inevitable entre ambos mundos: el principal incentivo de un médico es ayudar a sus pacientes, mientras que las empresas tecnológicas, en última instancia, responden ante sus accionistas, incluso si sus intenciones son nobles.
“Creo que esa tensión es importante”, dijo el Dr. Bari. “Los pacientes confían en nosotros para que seamos cínicos y conservadores con el fin de protegerlos.”
