¿Qué tan confiable es la “medicina de IA”? Una prueba reciente comparó ChatGPT con un médico general, revelando que seguir los consejos de la IA podría empeorar la situación en algunos casos. Investigadores realizaron pruebas con pacientes y analizaron las respuestas de ChatGPT ante diferentes escenarios médicos.
Un ejemplo citado involucró a una persona que había recibido un producto químico en el ojo. ChatGPT proporcionó una explicación detallada y tranquilizadora, mientras que el médico general rápidamente indicó que la situación no era grave. Se destaca que los pacientes a menudo buscan tranquilidad e información clara, algo que ChatGPT puede ofrecer de una manera que los médicos, debido a las limitaciones de tiempo, no siempre pueden proporcionar.
La Autoridad de Protección de Datos (Autoriteit Persoonsgegevens) ha advertido sobre los riesgos del uso de chatbots con IA, especialmente en el ámbito de la salud. Un empleado de una clínica médica introdujo datos personales en un programa como ChatGPT, lo que resultó en que esa información se incorporara al sistema del chatbot y potencialmente se utilizara para su entrenamiento. La Autoridad advierte que una vez que la información se introduce, las empresas pierden el control sobre ella.
También se reportó un caso en una empresa de telecomunicaciones, donde un empleado ingresó un archivo con direcciones y otros datos personales en un chatbot. Estos datos terminan almacenados en servidores de empresas tecnológicas estadounidenses.
La Autoridad de Protección de Datos enfatiza la importancia de que las empresas establezcan acuerdos claros con sus empleados sobre el uso de chatbots impulsados por IA, especialmente en lo que respecta a los tipos de datos que se pueden y no se pueden ingresar.
Si bien los chatbots tienen diversas aplicaciones útiles, es crucial ser consciente de sus limitaciones y riesgos potenciales, incluso al ingresar descripciones generales de enfermedades sin nombres.
