A privacy risk assessment was undertaken where instances of inappropriate use by Corrections’ staff were identified.
Photo: RNZ / Blessen Tom
El personal de Correcciones ha sido advertido sobre el uso de herramientas de inteligencia artificial después de que se descubriera que algunos empleados las utilizaban para redactar informes formales.
Correcciones ha declarado que cualquier uso indebido de la tecnología se toma «extremadamente en serio» y ha dejado claro al personal que cualquier uso de herramientas de IA fuera de su uso aprobado es «inaceptable».
Según ha podido saber RNZ, ha habido casos en los que el personal ha utilizado la IA para redactar informes formales, como los informes de Orden de Supervisión Extendida.
En respuesta a preguntas de RNZ, la jefa de servicios de libertad condicional, Toni Stewart, declaró que el uso de la IA por parte de Correcciones se limita actualmente a Microsoft Copilot. Otras aplicaciones de IA disponibles públicamente están bloqueadas en la red de Correcciones.
«Esto garantiza que el uso de la IA en Correcciones se produzca en un entorno en el que podamos gestionar los controles de privacidad y seguridad».
¿Sabe más? Envíe un correo electrónico a sam.sherwood@rnz.co.nz
El uso de Copilot por parte del personal se rige por su política de IA, que está en consonancia con las directrices del director digital jefe del gobierno.
«La política establece explícitamente que no se debe introducir información personal, incluidos los datos de identificación, la información sanitaria o los detalles relativos a las personas bajo la gestión de Correcciones, en Copilot Chat».
Stewart dijo que la adopción de Copilot sigue siendo «relativamente baja», con alrededor del 30 por ciento del personal de Correcciones interactuando con la herramienta desde que se introdujo en los dispositivos de Correcciones en noviembre de 2025.
«Copilot está destinado a ser utilizado únicamente como una herramienta de asistencia para crear y refinar contenido que no contenga información confidencial. El personal de Correcciones solo puede acceder a la función gratuita de chat de Microsoft Copilot, que forma parte de nuestra licencia Microsoft 365 existente y es una función de chat independiente, sin integración con los datos de nuestro sistema».
Stewart dijo que la política establece claramente que Copilot Chat no debe utilizarse en ninguna circunstancia para redactar, estructurar, analizar o generar contenido para informes o evaluaciones que contengan información personal. El personal puede estar sujeto a auditorías, con todas las indicaciones rastreables y exportables.
«Recientemente hemos tenido conocimiento de un pequeño número de incidentes en los que el personal ha utilizado Copilot para ayudar en su trabajo de una manera que no cumple con nuestra política de IA y las directrices».
«Hemos tomado medidas tan pronto como hemos tenido conocimiento de estos incidentes y hemos dejado muy claro que cualquier uso de Copilot fuera de su uso aprobado es inaceptable».
Se realizó una evaluación de riesgos para la privacidad en la que se identificaron casos de uso indebido.
«Nuestros líderes, especialmente dentro de Correcciones Comunitarias, donde el personal redacta varios informes, están trabajando activamente para garantizar que el uso adecuado de la IA sea un tema de conversación continuo con el personal».
«Se recuerda regularmente al personal la política de IA y otras directrices pertinentes».
Stewart dijo que Correcciones está «trabajando activamente» para garantizar que cualquier uso continuo de la IA sea «seguro, protegido y adecuado».
«Correcciones cuenta con un responsable de la garantía de la IA, una función desempeñada por el director de ciberseguridad, que es responsable de guiar la adopción segura y protegida de la IA. Esto incluye la presentación de informes externos al director digital jefe del gobierno».
«Correcciones participa en la Comunidad de Práctica de IA de todo el Gobierno, gestionada por el director digital jefe del gobierno. También hemos establecido el grupo de trabajo de IA para proporcionar una gobernanza formal de la IA que incluye la incorporación de prácticas de IA seguras y éticas en todo el departamento y la prestación de asesoramiento constante sobre su uso seguro».
Cualquier uso indebido de la tecnología se toma «extremadamente en serio», dijo Stewart.
«Estamos comprometidos a proteger la privacidad de las personas con las que trabajamos y a mantener la integridad profesional de nuestras evaluaciones, informes y documentación de casos».
A partir del viernes, no se había realizado ninguna notificación a la Oficina del Comisionado de la Privacidad, confirmó un portavoz de Correcciones.
«Junto con nuestra orientación existente, nuestro equipo de privacidad está trabajando con los grupos de trabajo pertinentes para proporcionar más orientación sobre el uso de Copilot en el espacio de Correcciones Comunitarias. Cualquier información introducida en Copilot por Correcciones permanece dentro del dominio de Correcciones».
Un portavoz de la Oficina del Comisionado de la Privacidad (OPC) dijo en un comunicado que la Ley de Privacidad se aplica al uso de información personal, incluso a través de herramientas de IA.
Es responsabilidad de las agencias comprender la tecnología que utilizan y garantizar que su uso cumpla los requisitos de privacidad, dijo el portavoz.
«Correcciones ha declarado que su política prohíbe al personal introducir información personal en Copilot Chat o utilizar Copilot para preparar informes o evaluaciones que contengan información personal».
«Si esto es correcto, las preocupaciones sobre la privacidad se limitarían a cualquier caso en el que el personal de Correcciones utilice Copilot en contravención de la política de Correcciones. Cuando Copilot se utiliza de forma que contraviene la política de Correcciones, la OPC espera que Correcciones tome las medidas adecuadas para remediarlo».
Sign up for Ngā Pitopito Kōrero, a daily newsletter curated by our editors and delivered straight to your inbox every weekday.
