Listen to this article
Estimated 3 minutes
The audio version of this article is generated by AI-based technology. Mispronunciations can occur. We are working with our partners to continually review and improve the results.
El Ministro de Inteligencia Artificial, Evan Solomon, ha convocado a representantes de OpenAI a Ottawa para discutir preocupaciones de seguridad después de que se descubriera que el autor del tiroteo masivo en Tumbler Ridge, Columbia Británica, fue prohibido de usar la plataforma ChatGPT de la compañía meses antes de los asesinatos.
La empresa prohibió la cuenta de Jesse Van Rootselaar en junio, pero afirmó que las actividades en la cuenta no cumplieron con el umbral para informar a las autoridades policiales en ese momento, ya que no identificaron una planificación creíble o inminente.
El Wall Street Journal informó el viernes que la cuenta de Van Rootselaar fue prohibida después de ser señalada por publicaciones preocupantes, incluidas algunas que incluían escenarios de violencia con armas de fuego.
OpenAI dijo que contactó a la RCMP después del tiroteo del 10 de febrero, cuando Van Rootselaar mató a su madre y hermanastro antes de ir a la escuela secundaria local para matar a cinco estudiantes y a una asistente educativa, y luego quitarse la vida.
Artificial Intelligence Minister Evan Solomon said OpenAI’s senior safety team is coming to Ottawa on Tuesday to discuss its safety protocols after the tech company confirmed the account of the teenager behind the Tumbler Ridge, B.C., mass shooting had been flagged internally but not reported to police.
Solomon informó a los periodistas el lunes que está profundamente perturbado por los informes y que contactó a la compañía estadounidense durante el fin de semana para obtener más información y organizar una reunión con su “equipo de seguridad senior” el martes.
“Tendremos una reunión para obtener una explicación de sus protocolos de seguridad y sus umbrales de escalada a la policía para que tengamos una mejor comprensión de lo que está sucediendo y qué hacen”, dijo.
Solomon no dijo si el gobierno federal tiene la intención de regular los chatbots de IA como ChatGPT, pero agregó que todas las opciones están sobre la mesa.
Un portavoz de la compañía confirmó que representantes viajarán a Ottawa para reunirse con funcionarios canadienses.
“Los líderes senior de nuestro equipo viajan a Ottawa para reunirse en persona con funcionarios del gobierno para discutir nuestro enfoque general de la seguridad, las salvaguardias que tenemos implementadas y cómo trabajamos continuamente para fortalecerlas”, dijo el portavoz en un comunicado.
Alan Mackworth, profesor emérito del departamento de ciencias de la computación de la Universidad de Columbia Británica que se centra en la seguridad y la ética de la IA, dijo en un comunicado que muchos profesionales, como maestros y médicos, tienen un “deber de informar” cualquier sospecha de daño o abuso a un menor.
“Estas obligaciones están consagradas en la ley y/o la ética profesional. Se deben imponer obligaciones similares a las empresas de redes sociales y de IA”, dijo.
