La tecnología puede ser una herramienta valiosa para los defensores de derechos, según señala Turner Lee, siempre y cuando su uso no se restrinja. “Hemos visto a ciudadanos aprovechar la capacidad de esta tecnología para crear espacios públicos y herramientas que alerten sobre la presencia de ICE en sus comunidades. Pero recientemente, se les ha pedido que las retiren”, explica.
Se refería a aplicaciones como ICEBlock y Red Dot, que ayudaban a mapear la ubicación de agentes de ICE en las comunidades. ICEBlock fue retirada de las plataformas de la App Store tras la presión del Departamento de Justicia sobre Apple, y Red Dot poco después.
“Estamos en un momento interesante en el que la tecnología, que siempre ha sido la barrera de entrada más baja para la participación, está siendo sofocada por parte de las comunidades que intentan poner orden en el caos”, afirma Turner Lee.
De los aproximadamente 170 mil millones de dólares que la “Ley Grande y Hermosa” destina a la aplicación de la ley migratoria, varios miles de millones se asignan explícitamente a tecnologías de vigilancia y detección, incluidos sistemas de vigilancia fronteriza y herramientas impulsadas por inteligencia artificial que analizan patrones de viaje. Cientos de millones más se reservan para sistemas biométricos de entrada y salida, lo que ampliará la capacidad del gobierno para rastrear, identificar y monitorear a los inmigrantes a través de tecnologías que se basan en la automatización en lugar del juicio humano.
Mientras tanto, la inversión en inteligencia artificial también está floreciendo a nivel local.
Ian Adams, profesor de criminología en la Universidad de Carolina del Sur, señala que simplemente no hay suficientes pruebas para conocer el alcance del daño o los beneficios creados por esta tecnología, pero eso no ha impedido que las ciudades y los departamentos de policía realicen importantes inversiones.
“Mi mayor crítica en este momento es esencialmente que existe una compra descontrolada y sin regulación que está desviando fondos públicos hacia una serie de productos que, hasta ahora, las mejores pruebas demuestran que ni siquiera logran su objetivo más simple”, dice Adams.
Uno de esos objetivos es la redacción de informes policiales. Los estudios demuestran que la IA no mejora la capacidad de redactar informes más rápido (que era el principal argumento de venta de la tecnología para ese propósito) y, lo que es peor, podría disminuir la precisión de los informes.
“Lo que no dejo de repetir es que necesitamos una experimentación independiente y cuidadosa para demostrar que estas tecnologías pueden lograr incluso sus objetivos iniciales, y mucho menos las consecuencias no deseadas y los costos”, afirma Adams. “Necesitamos ambas cosas, y no tenemos ninguna.”
La proliferación de estas herramientas afecta a todos, señalan múltiples expertos, pero los inmigrantes son especialmente vulnerables, dadas las metas poco realistas de deportación de la administración Trump.
Además, como muestran los datos detrás de “Midway Blitz”, el fácil acceso a tecnología de alta potencia facilita aún más la localización y detención de personas que no han cometido ningún delito, y los agentes de inmigración, y el gobierno en general, han demostrado su disposición a perseguir a personas con escasas o ninguna prueba de delito.
En marzo, Mahmoud Khalil, un residente permanente legal y estudiante de la Universidad de Columbia, fue detenido por ICE y se le revocó su visa debido a su participación en protestas en apoyo al pueblo palestino. Su caso llamó la atención porque se informó que se utilizaron sistemas de vigilancia y análisis de datos impulsados por inteligencia artificial, incluidas herramientas de monitoreo de redes sociales y reconocimiento de patrones de empresas como Palantir y Babel Street, para identificarlo y marcarlo para su aplicación de la ley.
Más recientemente, el Centro de Derechos Humanos de la Universidad de Washington publicó un estudio que detalla cómo la red de cámaras Flock del estado de Washington —impulsadas por IA— permite a las autoridades federales de inmigración acceder a los datos de los vehículos de los residentes, a menudo sin su conocimiento o consentimiento.
“Una de las primeras experiencias que tuve con personas bajo vigilancia fue muy desgarradora.” – Marianna Poyares
Marianna Poyares, investigadora postdoctoral en el Centro de Privacidad y Tecnología de Georgetown, está profundamente preocupada por la forma en que las herramientas de IA están costando a los inmigrantes su privacidad y dignidad. Su trabajo reciente se ha centrado en SmartLINK, la aplicación de monitoreo para teléfonos inteligentes de ICE, implementada como parte del programa “Alternativas a la Detención”. Además de la aplicación, otras tecnologías, como los monitores electrónicos, se ofrecen como “alternativas”.
“Una de las primeras experiencias que tuve con personas bajo vigilancia fue muy desgarradora”, cuenta Poyares a Inkstick.
Estaba en contacto con una familia de solicitantes de asilo de Guatemala y, durante una reunión, notó que el esposo, un hombre tímido y callado, se ajustaba constantemente el dobladillo de sus pantalones.
“En un momento, su esposa lo miró y le dijo: ‘Está bien, puedes mostrárselo’”, recuerda Poyares. “Y él se sintió muy avergonzado y levantó el dobladillo de sus pantalones y vi el monitor electrónico. Antes de que pudiera decir nada, me miró y me dijo: ‘Por favor, no pienses que soy un criminal. No lo soy’”.
Poyares supo más tarde que el hombre sufría depresión y organizó para que recibiera apoyo de salud mental. Aún así, dice que la aplicación SmartLINK no es la mejora que parece ser.
A algunos inmigrantes se les exige que utilicen la aplicación como una herramienta de registro digital en lugar de los informes en persona. Poyares estuvo recientemente en contacto con un solicitante de asilo que encontró trabajo como camionero, pero a menudo no pudo viajar a donde necesitaba ir porque estaba fuera de los límites geográficos que permitía la aplicación.
“Él avisaba, e incluso entonces la aplicación alertaba a su oficial y lo llamaban y tenía que regresar”, dice Poyares. “Así que finalmente perdió su trabajo”.
Poyares señala que los solicitantes de asilo son “verdaderos supervivientes”, personas que lograron escapar de condiciones terribles y ahora trabajan por una vida mejor y más esperanzadora.
“Sienten que deberían poder respirar una vez que lleguen a los Estados Unidos, y no pueden”, dice. “Vienen aquí y son marcados con estos dispositivos como si vinieran de un entorno penal. Eso es muy difícil, muy pesado para ellos”.
Emily Tucker, la directora ejecutiva del centro de Georgetown donde trabaja Poyares, cuestiona la forma en que se utiliza la palabra “IA”. En su opinión, se ha convertido en un término engañoso que engloba el procesamiento masivo de datos y, como resultado, gran parte de nuestras discusiones sobre esta tecnología oscurecen el problema central: la captura y el uso no regulados de datos.
El camino más prometedor para un cambio significativo, dice, radica en el trabajo de base. Las llamadas iniciativas de “gobernanza de la IA” probablemente no desafíen el poder de los ejecutivos tecnológicos vastamente poderosos a los que compara con oligarcas.
“Oponerse a las estructuras de poder que utilizan los datos para mantener el poder y un estado policial autoritario, que está coludido con la industria tecnológica, será un camino difícil”, dice.
Algunas personas están allanando ese camino, pero Tucker señala que aún no se ha consolidado un movimiento de oposición nacional en torno a la captura de datos. Esto es en parte por lo que ella y sus colegas lanzaron recientemente el Grupo Biblioteca de Babel, un grupo de trabajo internacional de profesores y educadores que quieren resistir los productos de IA y la tecnología de vigilancia en sus escuelas.
