Google y Character.AI: Acuerdo por demandas tras suicidios de menores

Google y Character.AI, una empresa emergente, han llegado a un acuerdo para resolver las demandas interpuestas por familias que acusan a los chatbots de inteligencia artificial de perjudicar a menores, incluyendo una presunta contribución al suicidio de un adolescente en Florida, según documentos judiciales presentados este miércoles.

Los acuerdos abarcan demandas presentadas en Florida, Colorado, Nueva York y Texas, de acuerdo con los documentos legales, aunque aún requieren la formalización y aprobación judicial.

“Las partes han acordado un acuerdo extrajudicial en principio para resolver todas las reclamaciones entre ellas”, se indica en el documento presentado en Florida. Los términos del acuerdo no han sido revelados.

Uno de los casos involucra a Megan Garcia, cuyo hijo de 14 años, Sewell Setzer III, falleció en febrero de 2024.

La demanda de Garcia alega que su hijo desarrolló una dependencia emocional hacia un chatbot inspirado en ‘Juego de Tronos’ en la plataforma Character.AI, que permite a los usuarios interactuar con personajes ficticios.

La muerte de Setzer fue la primera de una serie de suicidios reportados vinculados a chatbots de inteligencia artificial que surgieron el año pasado, lo que generó un escrutinio sobre OpenAI, creador de ChatGPT, y otras empresas de inteligencia artificial en relación con la seguridad infantil.

La conexión de Google con el caso se establece a través de un acuerdo de licencia de 2.700 millones de dólares que firmó en 2024 con Character.AI. El gigante tecnológico también contrató a los fundadores de Character.AI, Noam Shazeer y Daniel De Freitas, ambos ex empleados de Google que se reincorporaron a la empresa como parte de ese acuerdo.

Un portavoz de Character.AI declinó hacer comentarios. Ni Garcia ni Google respondieron de inmediato a las solicitudes de comentarios.

Character.AI anunció en octubre que eliminaría las capacidades de chat para usuarios menores de 18 años, tras la controversia generada por el caso de suicidio.