El gobierno canadiense podría imponer nuevas regulaciones a los chatbots de inteligencia artificial si OpenAI no mejora sus protocolos de seguridad. La compañía, desarrolladora de ChatGPT, ha sido acusada de no alertar a las autoridades sobre la actividad en su plataforma de la autora de una masacre que conmocionó al país.
Altos funcionarios del gigante estadounidense de la inteligencia artificial generativa fueron convocados a Ottawa para abordar la situación.
El gobierno federal critica a ChatGPT por no haber transmitido a la policía los mensajes escritos por Jesse Van Rootselaar, la joven que asesinó a ocho personas a principios de febrero en Tumbler Ridge, en el oeste del país.
OpenAI confirmó haber cerrado la cuenta de la autora debido a preocupaciones relacionadas con actividades violentas, pero no informó de ello a las autoridades canadienses.
El ministro de Justicia, Sean Fraser, advirtió que, si la empresa no toma medidas, el gobierno lo hará. “El mensaje que transmitimos, sin la menor ambigüedad, es que esperamos que se implementen cambios y que, si no se introducen muy rápidamente, el gobierno se encargará de hacerlos”, declaró según la prensa canadiense.
OpenAI se defendió, afirmando que en los últimos meses ha tomado medidas para fortalecer sus salvaguardias y modificar su protocolo de notificación a las fuerzas del orden en casos que involucren actividades violentas.
Sin embargo, los ministros enfatizaron que los canadienses esperan acciones concretas adicionales, mensaje que, según un comunicado de la empresa, fue recibido “cinco de cinco”.
El 10 de febrero, una joven transgénero originaria de Tumbler Ridge mató a su madre y a su hermanastro antes de dirigirse a su antigua escuela secundaria y disparar a cinco niños de entre 12 y 13 años y a una educadora de 39 años.
Jesse Van Rootselaar, quien posteriormente se suicidó, sufría trastornos de salud mental y la policía había visitado la residencia familiar en varias ocasiones.
OpenAI explicó que no notificó su decisión de suspender la cuenta vinculada a Jesse Van Rootselaar a las autoridades porque no cumplía con los criterios para activar dicha notificación, en particular porque el contenido no indicaba que la preparación de un ataque fuera creíble o inminente.
