Tras la pérdida de dos amigos, víctimas de un tiroteo y una puñalada mortal, Shan recurrió a ChatGPT en busca de ayuda. Aunque había intentado acceder a servicios convencionales de salud mental, la interacción con esta inteligencia artificial, a la que llegó a considerar una “amiga”, le resultó más segura, menos intimidante y, crucialmente, más accesible para afrontar el trauma causado por la muerte de sus jóvenes amigos.
Al comenzar a consultar al modelo de IA, la adolescente de Tottenham se unió a aproximadamente el 40% de los jóvenes de entre 13 y 17 años en Inglaterra y Gales afectados por la violencia juvenil que están recurriendo a los chatbots de inteligencia artificial para obtener apoyo en materia de salud mental, según una investigación realizada entre más de 11.000 jóvenes.
El estudio reveló que tanto las víctimas como los perpetradores de la violencia son significativamente más propensos a utilizar la IA para este tipo de apoyo que otros adolescentes. Los hallazgos, del Youth Endowment Fund, han generado advertencias por parte de líderes juveniles que señalan que los niños en riesgo “necesitan un ser humano, no un robot”.
Los resultados sugieren que los chatbots están satisfaciendo una demanda no cubierta por los servicios convencionales de salud mental, que a menudo tienen largas listas de espera y que algunos usuarios jóvenes consideran carentes de empatía. La supuesta privacidad del chatbot es otro factor clave que impulsa su uso por parte de víctimas o perpetradores de delitos.
Después de la muerte de sus amigos, Shan, de 18 años (nombre ficticio), comenzó a utilizar la IA de Snapchat antes de cambiar a ChatGPT, con la que puede conversar en cualquier momento del día o de la noche con solo dos clics en su teléfono inteligente.
“Siento que definitivamente es una amiga”, afirmó, añadiendo que es menos intimidante, más privada y menos crítica que su experiencia con el apoyo convencional de salud mental del NHS y organizaciones benéficas.
“Cuanto más le hablas como a una amiga, más te responde como tal. Si le digo a ‘chat’ ‘Hola, mejor amiga, necesito un consejo’, ‘chat’ me responde como si fuera mi mejor amiga, me dice ‘Hola, mejor amiga, te tengo’”.
Un 25% de los jóvenes de entre 13 y 17 años han utilizado un chatbot de IA para obtener apoyo en materia de salud mental en el último año, y los jóvenes de raza negra tienen el doble de probabilidades que los jóvenes blancos de haberlo hecho, según el estudio. Los adolescentes son más propensos a buscar apoyo en línea, incluido el uso de la IA, si están en lista de espera para recibir tratamiento o diagnóstico, o si se les ha denegado, en comparación con aquellos que ya están recibiendo apoyo presencial.
Lo crucial, según Shan, es que la IA está “disponible las 24 horas del día, los 7 días de la semana” y no revelará a profesores o padres lo que ha compartido. Considera que esta es una ventaja considerable con respecto a hablar con un terapeuta escolar, después de su propia experiencia de lo que consideró que eran confidencias compartidas con profesores y su madre.
Los chicos involucrados en actividades de pandillas se sienten más seguros al pedir consejo a los chatbots sobre formas más seguras de ganar dinero que a un profesor o padre que podría filtrar la información a la policía u otros miembros de la pandilla, poniéndolos en peligro, explicó Shan.
Otra joven, que ha estado utilizando la IA para obtener apoyo en materia de salud mental pero que pidió no ser identificada, dijo a The Guardian: “El sistema actual está tan roto para ofrecer ayuda a los jóvenes. Los chatbots proporcionan respuestas inmediatas. Si vas a estar en lista de espera durante uno o dos años para obtener algo, o puedes tener una respuesta inmediata en cuestión de minutos… ahí reside el deseo de utilizar la IA”.
Jon Yates, director ejecutivo del Youth Endowment Fund, que encargó la investigación, dijo: “Demasiados jóvenes están luchando con su salud mental y no pueden obtener el apoyo que necesitan. No es sorprendente que algunos recurran a la tecnología en busca de ayuda. Tenemos que hacerlo mejor por nuestros hijos, especialmente por aquellos que están más en riesgo. Necesitan un ser humano, no un robot”.
Han aumentado las preocupaciones sobre los peligros de los chatbots cuando los niños interactúan con ellos durante largos períodos de tiempo. OpenAI, la empresa estadounidense detrás de ChatGPT, se enfrenta a varias demandas, incluidas las de familias de jóvenes que se han suicidado después de largas interacciones.
En el caso del joven californiano Adam Raine, que se quitó la vida en abril, OpenAI ha negado que el chatbot fuera la causa. La empresa ha declarado que está mejorando su tecnología “para reconocer y responder a las señales de angustia emocional o mental, desescalar las conversaciones y orientar a las personas hacia el apoyo en el mundo real”. La startup anunció en septiembre que podría empezar a contactar con las autoridades en los casos en que los usuarios empiecen a hablar en serio sobre el suicidio.
Hanna Jones, investigadora de violencia juvenil y salud mental en Londres, dijo: “Tener esta herramienta que técnicamente podría contarte cualquier cosa es casi como un cuento de hadas. Tienes un libro mágico que puede resolver todos tus problemas. Suena increíble”.
Pero le preocupa la falta de regulación.
“La gente está utilizando ChatGPT para obtener apoyo en materia de salud mental, cuando no está diseñado para ello”, dijo. “Lo que necesitamos ahora es aumentar las regulaciones que estén basadas en pruebas, pero también lideradas por los jóvenes. Esto no se va a resolver con adultos tomando decisiones por los jóvenes. Los jóvenes deben estar al volante para tomar decisiones sobre ChatGPT y el apoyo a la salud mental que utiliza la IA, porque es tan diferente a nuestro mundo. No crecimos con esto. Ni siquiera podemos imaginar lo que es ser un joven hoy en día”.
