La inteligencia artificial (IA) se está utilizando para dañar a los niños al recomendar el suicidio o la autolesión a usuarios vulnerables a través de algoritmos de redes sociales, afirmará hoy una organización benéfica irlandesa.
CyberSafe Kids, una organización benéfica con sede en Dublín centrada en la seguridad infantil en línea, dirá en una audiencia del comité infantil de Oireachtas que la IA “ha existido durante años y ha tenido un impacto activo en los niños en su uso de la tecnología durante los últimos 10 años”.
Su director ejecutivo, Alex Cooney, dirá en la audiencia, cuyo objetivo es cómo proteger a los niños en el uso de la IA, que “Internet no fue diseñado pensando en los niños”.
La Sra. Cooney le dirá al comité que los algoritmos de las empresas de redes sociales están impulsados por el aprendizaje automático de IA, siendo el “objetivo principal” “mantener los ojos en la pantalla”.
Citará a una joven madre con la que la organización benéfica trabajó recientemente, cuya hija de 13 años había publicado un video en la aplicación para compartir videos TikTok el verano pasado expresando tristeza por el acoso.
“La aplicación comenzó a inundar su feed diario con imágenes de otras adolescentes tristes que hacían referencia al suicidio, los trastornos alimentarios y las autolesiones”, dijo la madre, y agregó que “el daño y la tristeza que esto ha causado a mi familia ha sido inmenso”. ”.
Mi hija vio la autolesión como una liberación del dolor que estaba sufriendo por el acoso a través de la información que esta aplicación permite abiertamente”.
Cooney agregará que algunos ciberdelincuentes ahora están utilizando aplicaciones de inteligencia artificial generativa para extorsionar a menores a través de imágenes sexualizadas compartidas.
Dirá que algunas aplicaciones más nuevas están “facilitando esos esfuerzos”, incluidas aquellas que eliminan la ropa de las fotografías, “lo que evita la necesidad de poner a las personas en posiciones comprometedoras”.
“Las fotos pueden simplemente tomarse de cuentas de redes sociales y luego enviarse al individuo para que comience el proceso de extorsionarlo”, dirá la Sra. Cooney, añadiendo que existe “un temor real” de que la misma tecnología “evolucione para poder para crear contenido de vídeo también”.
2024-02-13 01:00:00
1707788549
#utiliza #para #dañar #los #niños #línea #comité #escuchará #hoy
