La UE acuerda límites estrictos al uso policial de la vigilancia biométrica mediante IA | Vigilancia

Se ha revelado que la policía y los organismos de seguridad nacional de la UE tendrán prohibido utilizar datos biométricos en tiempo real impulsados ​​por inteligencia artificial en la mayoría de las circunstancias sin autorización judicial.

La medida fue parte de un acuerdo histórico alcanzado entre el Parlamento Europeo y los Estados miembros de la UE el viernes después de tres días de negociaciones. Sin embargo, los funcionarios no revelaron los detalles operativos hasta el lunes, ya que el texto final no se publicará hasta que se complete “un proceso de limpieza”.

La prohibición de la vigilancia del “Gran Hermano” se aplicará en lugares públicos y privados, desde parques hasta campos deportivos, excepto en caso de delitos graves específicos, amenaza terrorista o búsqueda urgente de víctimas. Incluso entonces, la policía necesitará primero la aprobación de un juez o de una autoridad administrativa independiente.

Sólo en las circunstancias más excepcionales, como una amenaza terrorista real, la policía podrá activar herramientas biométricas de IA sin que un juez dé luz verde.

Sin embargo, según las nuevas normas, aún deben obtener autorización dentro de las 24 horas y proporcionar a la autoridad correspondiente una “evaluación previa del impacto en los derechos fundamentales”, según un funcionario de la UE con conocimiento del texto.

También deberán notificarlo a la autoridad de vigilancia del mercado pertinente y a la autoridad de protección de datos. Si no se obtiene el permiso del juez o de la autoridad, la herramienta de inteligencia artificial debe apagarse y todos los datos extraídos sobre el sospechoso o los sospechosos deben eliminarse inmediatamente, dijo el funcionario.

Según los funcionarios, estas salvaguardias evitarán lo que se ha denominado “vigilancia policial predictiva”, que los eurodiputados temían que se utilizara junto con la elaboración de perfiles raciales para discriminar a las personas. Un funcionario de la UE dijo que eso significaría que las autoridades encargadas de hacer cumplir la ley no podrían perseguir a alguien como sospechoso “sólo porque un algoritmo dice que eres un criminal”.

En total, la UE y los eurodiputados han acordado una lista específica de 16 tipos de delitos graves a los que se puede aplicar esta excepción a la prohibición de vigilancia.

Las excepciones fueron el terrorismo, el asesinato, la violación, el robo organizado o a mano armada, las lesiones corporales graves, el abuso sexual de niños, el secuestro, la toma de rehenes, los delitos bajo la jurisdicción de la corte penal internacional, la confiscación ilegal de aviones o barcos, el sabotaje, la trata de seres humanos, los cadáveres. piezas, drogas ilegales, armas o material radiactivo, y participación en una organización criminal involucrada en alguno de esos delitos.

Cada país debe cumplir con estas prohibiciones de IA dentro de los seis meses posteriores a la entrada en vigor de las leyes en los estatutos de la UE o en el boletín oficial de la UE, el Diario Oficial. Las nuevas leyes que rigen la inteligencia artificial en la UE también incluirán otras prohibiciones para protegerse contra los riesgos que la IA plantea para la sociedad y la vida.

Incluyen sistemas o aplicaciones de inteligencia artificial que “manipulan el comportamiento humano para eludir el libre albedrío de los usuarios, como juguetes que utilizan asistencia por voz y fomentan comportamientos peligrosos de los menores”. También incluyen una prohibición de los sistemas de inteligencia artificial que permiten la “puntuación social” por parte de gobiernos o empresas, similar a El sistema chino de “crédito social”.

La UE insistió en esto en el texto final en medio de temores de que dichos datos derivados de la IA se utilizaran para explotar las vulnerabilidades de las personas con respecto a su edad, discapacidad o situación social o económica. Podría haber significado, por ejemplo, que a ciertos clientes se les podría prohibir la entrada a los restaurantes en función de su “puntuación social” o estatus, o que ciertos empleados quedarían despedidos de sus puestos de trabajo.

La inteligencia artificial de reconocimiento emocional, que puede leer las expresiones faciales de las personas en tiempo real para evaluar el estrés o la fatiga, también estará prohibida en el lugar de trabajo.

Los eurodiputados que lideran la lucha por las prohibiciones estaban decididos a garantizar que la UE no se convierta en un estado de vigilancia como China, donde la policía de tránsito puede intervenir, por ejemplo, si creen que un conductor de camión está cansado.