Una coalición de fiscales generales estatales ha iniciado una investigación formal sobre OpenAI, centrada en cómo los productos de la empresa de inteligencia artificial afectan a sus usuarios. La fiscal general de Nueva York, Letitia James, emitió el pasado viernes una citación judicial exigiendo a la compañía la entrega de documentación diversa sobre sus modelos de aprendizaje profundo, el manejo de datos de salud y consumo, y sus interacciones con usuarios de distintas edades, según informó The Wall Street Journal.
¿Qué busca la investigación de los fiscales generales?
La citación busca esclarecer las prácticas de OpenAI en relación con la retención y el compromiso de los usuarios. Según los reportes, los documentos requeridos incluyen detalles sobre las actividades de la plataforma tanto con menores como con adultos mayores. Este movimiento legal se suma a una serie de desafíos judiciales que enfrenta la empresa, incluyendo demandas por infracción de derechos de autor y litigios de privacidad. La estrategia de los estados de actuar de forma coordinada es un precedente utilizado anteriormente para enfrentar a corporaciones masivas, como ocurrió con la industria tabacalera en los años 90 y con Purdue Pharma en 2017, según explicaron abogados a Business Insider.
La respuesta de OpenAI ante las críticas
Ante la apertura de la investigación, un portavoz de OpenAI declaró que la compañía toma las preocupaciones de los estados «seriamente» y que se compromete a «colaborar de manera constructiva» con sus oficinas. La empresa ha sostenido que sus productos actuales, como ChatGPT, ofrecen una experiencia más protectora para menores y personas en situaciones difíciles, incluyendo salvaguardas que dirigen a los usuarios hacia contactos humanos y recursos reales. «Estamos comprometidos a aprender, mejorar y hacer las cosas bien», afirmó el portavoz de la empresa.
Antecedentes de litigios y seguridad
La presión legal sobre OpenAI no es nueva. La compañía ha enfrentado cuestionamientos tras reportes sobre usuarios que habrían tomado decisiones fatales tras interactuar con su chatbot. En junio, el fiscal general de Florida, James Uthmeier, presentó una demanda contra OpenAI y su CEO, Sam Altman, alegando que la herramienta «ha facilitado y fomentado actos violentos» y «alentado a personas vulnerables al suicidio». La empresa ha respondido reiteradamente que ChatGPT no sustituye el cuidado médico o de salud mental y que continúa fortaleciendo sus respuestas ante situaciones sensibles con el asesoramiento de expertos.
Similitudes con el caso TikTok
Esta investigación coordinada por los estados sigue un camino similar al proceso legal iniciado contra TikTok, el cual derivó en una demanda colectiva de 14 estados. En ambos casos, los fiscales generales de Nueva York y California lideran las acciones, bajo el argumento de que las plataformas emplean funciones diseñadas para generar adicción en menores, afectando negativamente su salud mental. Mientras la demanda contra TikTok avanza en los tribunales, el sector tecnológico observa cómo los estados emplean el litigio conjunto como una herramienta para aumentar el costo de defensa legal de las grandes empresas, garantizando que el proceso continúe incluso si una jurisdicción individual falla.
