El director deportivo de una escuela secundaria de Baltimore fue arrestado y acusado el jueves de usar inteligencia artificial para hacerse pasar por un director en una grabación de voz que incluía comentarios despectivos sobre los estudiantes y el personal, dijeron las autoridades.
Dazhon Darien, profesor de educación física y director deportivo de la escuela secundaria Pikesville, está acusado de utilizar software de inteligencia artificial para falsificar una grabación de voz del director de la escuela, Eric Eiswert, según el jefe de policía del condado de Baltimore, Robert McCullough. La grabación fabricada se volvió viral después de circular en las redes sociales en enero, causando indignación y condena generalizada entre la comunidad de las Escuelas Públicas del Condado de Baltimore.
“Ahora tenemos pruebas concluyentes de que la grabación no era auténtica. El Departamento de Policía del condado de Baltimore llegó a esa determinación después de realizar una investigación exhaustiva”, dijo McCullough durante una conferencia. conferencia de prensa el jueves. “Basado en esos hallazgos y en investigaciones adicionales, se ha determinado que la grabación se generó mediante el uso de tecnología de inteligencia artificial”.
Darién, de 31 años, fue arrestado el jueves y enfrenta varios cargos que incluyen robo, acoso, interrupción de las operaciones escolares y represalias contra un testigo, dijo la policía. Luego de una comparecencia ante el tribunal el jueves por la tarde, Darien fue liberado con una fianza no garantizada de $5,000.
Scott Shellenberger, fiscal estatal del condado de Baltimore, dijo el jueves que el caso parece ser uno de los primeros de su tipo en todo el país. Señaló que los legisladores estatales deben actualizar la legislación para incluir la nueva tecnología.
El caso de Baltimore es el último de una oleada de uso indebido de la inteligencia artificial en las escuelas de todo el país. La mayoría de los casos involucran “deepfakes” o medios sintéticos generados por IA, que son imágenes, videos y audio que manipulan digitalmente la apariencia, la voz o las acciones de un individuo.
El año pasado, las escuelas tuvieron dificultades para controlar la tecnología, ya que los estudiantes varones de secundaria y preparatoria utilizaron inteligencia artificial para crear fotografías de sus compañeros de clase desnudos. Si bien algunos casos resultaron en arrestos, otros enfrentaron consecuencias menos severas debido a las diferentes políticas distritales y leyes estatales.
Los deepfakes son parte de las elecciones de 2024:¿Los regulará el gobierno federal?
Policía: Es posible que se hayan realizado grabaciones falsas en represalia por la investigación escolar
El Departamento de Policía del condado de Baltimore inició una investigación el 17 de enero después de que se publicara en Instagram una supuesta grabación de voz de Eiswert haciendo comentarios racistas y antisemitas sobre estudiantes y personal. La grabación provocó una respuesta masiva en línea y provocó una investigación por parte del distrito escolar.
en la grabacion, la voz dijo que los estudiantes negros no pudieron “probar cómo salir de una bolsa de papel” y cuestionó “lo difícil que es lograr que estos estudiantes cumplan con las expectativas de su nivel de grado”. La grabación también hacía comentarios despectivos sobre el pueblo judío y mencionaba los nombres de miembros del personal que “nunca debieron haber sido contratados”.
La bandera de Baltimore informó que los miembros de la comunidad escolar creían que Eiswert había hecho esos comentarios discriminatorios. Eiswert negó haber hecho los comentarios y no ha trabajado en la escuela desde que comenzó la investigación, según el medio de comunicación.
Como parte de la investigación policial, McCullough dijo que los investigadores trabajaron con analistas forenses del FBI y la Universidad de California, Berkeley, quienes determinaron que la grabación no era auténtica. “Los resultados de ese análisis indicaron que la grabación contenía rastros de contenido generado por IA”, dijo McCullough.
La policía cree que Darien fabricó la grabación como represalia contra Eiswert, quien estaba llevando a cabo una investigación sobre el posible mal manejo de los fondos escolares en ese momento, según McCullough.
Oficiales de la Autoridad de Transporte de Maryland detuvieron a Darien en el Aeropuerto Internacional Thurgood Marshall de Baltimore/Washington el jueves por la mañana, dijo McCullough. Darién estaba intentando abordar un vuelo cuando lo detuvieron y le preguntaron cómo estaba empaquetada su arma de fuego declarada.
Los oficiales verificaron los antecedentes de Darien y apareció una orden de arresto abierta para él, agregó McCullough.
Las Escuelas Públicas del Condado de Baltimore dijeron en un declaración que el distrito está tomando “medidas apropiadas” contra la conducta de Darien, incluida una recomendación de despido.
Aumento de los deepfakes: ‘Entrando en una frontera nueva y profundamente preocupante’
Los deepfakes suelen utilizarse con fines maliciosos o para difundir información errónea. Los medios sintéticos generados por IA ya “han demostrado ser fuerzas dañinas en las escuelas, ya que los estudiantes crean falsificaciones de sus compañeros en poses íntimas para ridiculizarse e intimidarse unos a otros”, según el Centro para la democracia y la tecnología. También ha habido casos de estudiantes que crearon deepfakes de sus profesores.
“Está claro que también estamos entrando en una frontera nueva y profundamente preocupante”, dijo el jueves el ejecutivo del condado de Baltimore, Johnny Olszewski. “A medida que continuamos adoptando la tecnología emergente y su potencial para la innovación y el bien social, también debemos permanecer atentos a quienes la han utilizado con intenciones maliciosas”.
En abril pasado, un estudiante de Houston, Texas, fue acusado de alterar digitalmente fotografías de un maestro y compartir esas imágenes explícitas en línea. FOX 26 Houston informó.
En diciembre, dos chicos de secundaria de Florida fueron arrestados bajo sospecha de usar una aplicación de inteligencia artificial para crear fotografías desnudas de sus compañeros de clase, que tenían entre 12 y 13 años, según una orden de arresto. Los niños fueron acusados de delitos graves de tercer grado bajo una ley estatal de 2022.
Y en febrero, los administradores escolares acusaron a estudiantes de secundaria en Beverly Hills, California, de usar inteligencia artificial para crear fotografías falsas de desnudos de sus compañeros de clase, según Noticias NBC. El superintendente le dijo a NBC News que las imágenes incluían rostros de estudiantes manipulados digitalmente sobre cuerpos desnudos.
Contribuyendo: Zachary Schermele y Natasha Lovato, USA TODAY
2024-04-26 02:43:13
1714212343
#Profesor #Baltimore #utilizó #para #falsificar #audio #racista #del #director #policía
/data/photo/2017/05/15/2324646688.jpeg?fit=300%2C300&ssl=1)
