OpenAI, la empresa detrás de ChatGPT, está introduciendo funcionalidades específicas basadas en inteligencia artificial para el sector de la salud, tanto para usuarios individuales como para organizaciones. Estas herramientas podrán responder a inquietudes médicas, aprender de la información proporcionada por los usuarios y asistir a los clínicos en el diagnóstico.
Una nueva pestaña llamada ChatGPT Health animará a los usuarios a compartir información sobre su salud vinculando sus registros médicos personales y aplicaciones populares de bienestar como Apple Health, Function y MyFitnessPal, según anunció OpenAI el jueves.
Si bien la compañía ha señalado que el sistema no está diseñado para reemplazar la atención médica profesional y “no está destinado al diagnóstico o tratamiento”, argumenta que ayudará a los usuarios a “navegar por preguntas cotidianas y comprender patrones a lo largo del tiempo”.
Material promocional muestra a usuarios preguntando a ChatGPT Health sobre rutinas de ejercicio, formas de aliviar síntomas, cómo examinar análisis y resultados de laboratorio, qué preguntas hacer a un especialista, cómo comparar pólizas de seguro médico y los posibles efectos secundarios de ciertos medicamentos.
Para las organizaciones sanitarias, OpenAI for Healthcare también utilizará ChatGPT para ayudar a los clínicos con tareas “clínicas, de investigación y operativas”, anunció la compañía el viernes.
El sistema también podría ayudar a recuperar y citar evidencia de fuentes médicas para ayudar a los clínicos a realizar sus diagnósticos, según OpenAI.
La asistencia diagnóstica proporcionada por este tipo de sistemas de IA podría atraer la atención de reguladores como la Administración de Productos Terapéuticos de Australia (TGA), ya que la agencia ya está revisando si los asistentes de IA utilizados por médicos que ofrecen sugerencias de diagnóstico o tratamiento deben clasificarse como dispositivos médicos y, por lo tanto, someterse a la aprobación regulatoria.
La TGA no respondió a una solicitud de comentarios sobre si examinaría ChatGPT Health o OpenAI for Healthcare para una posible regulación.
¿Confiarán demasiado las personas en ChatGPT Health?
La profesora Kirsten McCaffery, directora del Laboratorio de Alfabetización en Salud de Sídney en la Universidad de Sídney, dijo sentirse “igualmente entusiasmada y preocupada” por el lanzamiento de ChatGPT Health, ya que cree que el sistema podría ayudar a las personas, pero también podría ser excesivamente confiado por algunos.
“La preocupación es que las personas depositen demasiada confianza en ChatGPT Health y tomen decisiones de salud basándose únicamente en este consejo, sin buscar asesoramiento profesional por conveniencia o costo”, explicó a Information Age.
“Incluso si el modelo aconseja no tomar decisiones de salud basadas en la información proporcionada, es probable que muchas personas ignoren este consejo.
“También existe la preocupación de que el consejo basado en registros personales pueda parecer más seguro y autoritario, lo que nuevamente podría alentar a los usuarios a confiar en él para tomar decisiones cuando existe el riesgo de que sea incorrecto y perjudicial”.
OpenAI afirma que ChatGPT Health puede recopilar información de los registros médicos y las aplicaciones de salud de un usuario si se le otorga permiso. Imagen: OpenAI
Un estudio australiano coautorado por McCaffery, que preguntó a una muestra representativa a nivel nacional de más de 2.000 personas si habían utilizado ChatGPT para consultas de salud, encontró que solo una de cada diez (9,9%) lo había hecho en la primera mitad de 2024.
Sin embargo, el 39% de las personas que aún no habían utilizado ChatGPT para problemas de salud dijeron que considerarían hacerlo en los siguientes seis meses.
Las preguntas relacionadas con la salud son ahora “una de las formas más comunes en que las personas utilizan ChatGPT”, según OpenAI, con más de 230 millones de personas que realizan consultas semanales sobre salud y bienestar, según la compañía.
“Existen beneficios obvios para una mejor comprensión de la información sobre la salud”, dijo McCaffery.
“Sabemos que ChatGPT puede proporcionar información de manera personalizada y de maneras más comprensibles, es decir, utiliza un lenguaje sencillo y puede traducir información a diferentes idiomas.
“En nuestro propio estudio en Australia, descubrimos que las personas cuyo primer idioma no era el inglés eran más propensas a utilizar ChatGPT para preguntas de salud, lo que demostró que sentían que necesitaban más ayuda”.
OpenAI afirma que su plataforma de atención médica empresarial puede ayudar a los clínicos a realizar diagnósticos citando evidencia de fuentes médicas e investigaciones. Imagen: OpenAI
Cuestiones de precisión, privacidad y seguridad
El anuncio de las plataformas de salud para consumidores y empresas de OpenAI se produce en un momento en que la compañía enfrenta demandas relacionadas con el impacto en la salud mental de ChatGPT en algunos usuarios, y después de que un “experimento” en 2025 revelara que algunos compartieron inadvertidamente sus conversaciones privadas con motores de búsqueda.
También ocurre en un momento en que los ciberdelincuentes continúan atacando plataformas que contienen información médica sensible (y, por lo tanto, lucrativa), que a menudo se mantiene como rescate cuando se obtiene ilegalmente.
OpenAI ha prometido proteger la información de salud sensible “con una privacidad mejorada”, como un cifrado específico, y ha declarado que no utilizará las conversaciones de ChatGPT Health para entrenar sus modelos fundamentales.
La integración de registros médicos y algunas aplicaciones de bienestar también solo estará disponible en los Estados Unidos, donde la compañía ha colaborado con la plataforma de datos de salud de IA de terceros B.well.
Cualquier aplicación de bienestar conectada también “debe cumplir con los requisitos de privacidad y seguridad de OpenAI, incluida la recopilación solo de los datos mínimos necesarios, y someterse a una revisión de seguridad adicional específica para su inclusión en Health”, según la compañía.
Figuras de la industria también han expresado su preocupación por si las conversaciones de ChatGPT Health podrían solicitarse en futuros casos legales, ya que OpenAI recientemente perdió una apelación para evitar que 20 millones de registros anónimos de ChatGPT se entreguen a los abogados de organizaciones de medios que la demandan por infracción de derechos de autor.
Por otro lado, ChatGPT for Healthcare proporcionaría a los clínicos “citaciones transparentes” de fuentes médicas, según OpenAI.
Sin embargo, los modelos de lenguaje grandes (LLM) como ChatGPT y Google’s Gemini a veces proporcionan información incorrecta, coloquialmente conocida como “alucinación”, como incluir citaciones incorrectas o indicar a los usuarios que pongan pegamento en la pizza.
Google esta semana eliminó varias respuestas de IA a preguntas de salud de su popular motor de búsqueda después de que The Guardian descubriera que Gemini estaba proporcionando algunas respuestas falsas y engañosas.
El incidente es “un ejemplo perfecto” de por qué gran parte de la ética de la industria de la IA de ‘muévete rápido y rompe cosas’ “no puede funcionar en la atención médica”, según McCaffery.
“Si algo se rompe o sale mal, alguien puede morir o sufrir daños graves”, afirmó.
Más de 260 médicos fueron consultados durante el desarrollo de ChatGPT Health y OpenAI for Healthcare, “para comprender qué hace que una respuesta a una pregunta de salud sea útil o potencialmente dañina”, según OpenAI.
Debido a regulaciones de privacidad más estrictas en algunos países, solo los usuarios de ChatGPT fuera del Área Económica Europea, Suiza y el Reino Unido serían elegibles para usar ChatGPT Health, agregó la compañía.
OpenAI ha lanzado una lista de espera para los usuarios que desean obtener acceso anticipado a ChatGPT Health, y ha dicho que planea ampliar el acceso a todos los usuarios “en las próximas semanas”.
La compañía estadounidense de IA Anthropic también anunció el domingo nuevas funciones de atención médica para su chatbot Claude, que permite a los usuarios de EE. UU. integrar sus registros médicos y aplicaciones.
