(Este artículo trata sobre el suicidio y la autolesión. Si usted o alguien que conoce necesita ayuda, la línea nacional de prevención del suicidio y crisis está disponible llamando o enviando un mensaje de texto al 988).
Un proyecto de ley de Ohio, el HB 524, busca abordar un problema que pocos habrían podido imaginar hace una o dos décadas: los chatbots de inteligencia artificial que animan a las personas a hacerse daño a sí mismas o a otros.
La representante estatal Christine Cockley, demócrata por Columbus, es la principal patrocinadora de este proyecto de ley bipartidista, que permitiría imponer sanciones a los modelos de IA que sugieran autolesiones o daños a terceros. Actualmente se encuentra en el Comité de Tecnología e Innovación de la Cámara de Representantes.
Testimonios presentados esta semana ilustraron el daño potencial de estos chatbots, que utilizan modelos diseñados para decir a las personas lo que quieren oír, o incluso para apoyar sus pensamientos más oscuros. Estos chatbots pueden intensificar la angustia de un usuario, validar ideas delirantes e incluso proporcionar detalles sobre cómo autolesionarse.
Una noticia de Associated Press publicada en agosto informó sobre una demanda por muerte injusta contra OpenAI, en la que se alegaba que ChatGPT “continuamente alentaba y validaba todo lo que Adam expresaba, incluidos sus pensamientos más dañinos y autodestructivos, de una manera que se sentía profundamente personal”. La demanda afirmaba que ChatGPT incluso se ofreció a redactar un borrador de una carta de suicidio para Adam, quien finalmente se quitó la vida. Este caso tuvo lugar en San Francisco.
Sin embargo, según un informe de Cleveland.com, durante el testimonio del comité el martes, Tony Coder, director ejecutivo de la Fundación para la Prevención del Suicidio de Ohio, declaró que había hablado con al menos cuatro padres de Ohio cuyos hijos habían recibido cartas de suicidio redactadas por IA.
“No soy anti-IA… Esto no se trata de eso. Se trata de proteger a nuestros jóvenes de una entidad que está en su dormitorio o en su teléfono, posiblemente todas las noches”, declaró Coder al comité, según Cleveland.com.
El HB 524 dotaría al Fiscal General de Ohio de herramientas para combatir este problema. Dieciocho co-patrocinadores más ya comprenden la importancia de esta iniciativa. Esperemos que avance rápidamente y llegue al escritorio del gobernador Mike DeWine. Dada la gravedad del asunto, no hay tiempo que perder.