Una empresa nueva tomó miles de millones de fotos de Facebook y otros sitios web para crear una base de datos de reconocimiento facial, y cientos de agencias de aplicación de la ley la están utilizando.

0
52
FOTO DE ARCHIVO: los logotipos de Facebook se ven en un teléfono móvil en esta imagen tomada el 2 de diciembre de 2019. REUTERS / Johanna Geron / Ilustración

Reuters / Johanna Geron / Ilustración

  • Clearwater AI, una startup de reconocimiento facial que buscó imágenes en las redes sociales, ha sido adoptada por al menos 600 agencias policiales, según un informe del New York Times.

  • Los desarrolladores de software confiaron en los funcionarios republicanos actuales y anteriores para vender el software a las agencias policiales.

  • Según los informes, las agencias tienen poca información sobre el origen de Clearwater AI, que probablemente violó las políticas de sitios como Facebook, Twitter, Instagram y YouTube para crear su base de datos de miles de millones de fotos.

  • Ha habido una creciente preocupación entre el uso de la aplicación de la ley de tecnologías de reconocimiento facial, particularmente por temor a que las herramientas tengan un sesgo racial.

Cientos de agencias policiales en los Estados Unidos están utilizando una startup de reconocimiento facial para resolver crímenes, pero se sabe poco sobre el software, particularmente entre la comunidad policial, según un informe del sábado.

Según The New York Times, el software, Clearview AI, es una colaboración entre Hoan Ton-That, un nativo de Australia que se mudó a los EE. UU. En 2007, y Richard Schwartz, ex asistente del ex alcalde de la ciudad de Nueva York Rudy Giuliani.

Los dos se cruzaron por primera vez en el Manhattan Institute, un grupo de expertos conservador, informó The Times.

Kirenaga Partners, una pequeña firma de capital privado con sede en Nueva York, también es un inversor temprano en Clearview AI, que también recibió fondos del capitalista de riesgo Peter Thiel, según el informe. Thiel, el primer gran inversor externo de Facebook, según CNN, todavía forma parte de la junta directiva de Facebook.

Cuando un usuario carga una foto en la aplicación, que ha sido utilizada por más de 600 agencias de aplicación de la ley, Clearview AI busca coincidencias en su catálogo de miles de millones de fotos que raspó de los sitios web de redes sociales, generalmente en violación de los términos de esos sitios de servicio, según The Times. Luego muestra los resultados a quien hizo la búsqueda.

Clearview no compartió qué agencias policiales han utilizado su herramienta. Además de los cientos de agencias de aplicación de la ley, la compañía también ha licenciado su software a compañías privadas, informó The Times. Pero según el informe, las agencias policiales locales y nacionales confirmaron que habían utilizado el software para ayudar a resolver crímenes que van desde el robo hasta el asesinato. Las agencias policiales dijeron que tenían poco conocimiento de quién había desarrollado Clearview AI, o cómo funcionaba el software, según el informe.

Facebook dice que está investigando Clearview AI después del informe de The Times

Según los informes, los fundadores de la aplicación comenzaron a comercializar el servicio a las agencias policiales por tan solo $ 2,000. Según los informes, los fundadores confiaron en funcionarios republicanos anteriores y actuales para acercarse a las agencias policiales sobre el uso del servicio de bajo precio, o en algunos casos, una prueba gratuita del software.

Cuando fue analizado por The Times, el código subyacente en la aplicación también reveló que el software había sido diseñado para funcionar con tecnología de realidad aumentada, lo que significa que alguien con gafas o anteojos especiales podría usar Clearview AI para determinar detalles al instante, incluida la identidad y la dirección de una persona. Ton-That le dijo a The Times que su compañía estaba desarrollando la tecnología de realidad aumentada como prototipo, pero que no tenía planes de lanzarla públicamente.

En un comunicado, un portavoz de Facebook dijo a Business Insider que la compañía estaba investigando Clearview AI luego del informe.

“Nuestras políticas prohíben eliminar información de Facebook o agregarla a un directorio, por lo que estamos revisando los reclamos sobre esta compañía y tomaremos las medidas apropiadas si descubrimos que están violando nuestras reglas”, dijo el portavoz.

El portavoz de Facebook no hizo comentarios sobre la inversión de Thiel en la startup, aunque señaló a Business Insider hacia una declaración del portavoz de Thiel dada a The Times.

“En 2017, Peter le dio a un joven y talentoso fundador $ 200,000, que dos años después se convirtieron en acciones en Clearview AI”, dijo Jeremiah Hall, portavoz de Thiel, según The Times. “Esa fue la única contribución de Peter; él no está involucrado en la compañía”.

Como The Times señaló, Thiel alcanzó fama por financiar la demanda de Hulk Hogan que llevó a Gawker a la bancarrota. Thiel y Ton-That habían recibido cobertura negativa en Gawker, según el informe del Times.

Peter ThielPeter Thiel
Peter Thiel

Gettty / Neilson Barnard

Los portavoces de otras plataformas de redes sociales que Clearview AI utiliza, como Twitter, YouTube, Instagram y Venmo, confirmaron a The Times que buscar imágenes en sus sitios violaba las políticas de la compañía. Twitter fue un paso más allá y le dijo a The Times que era contrario a la política usar imágenes de su plataforma para el reconocimiento facial.

Cuando The Times le pidió a una agencia de aplicación de la ley que ejecutara su propia foto de reportero a través del software, los representantes de Clearview AI, que previamente habían ignorado sus solicitudes de información, se comunicaron con las agencias de aplicación de la ley para preguntar si habían estado hablando con los medios .

The Times concluyó que la compañía había estado vigilando al periodista, Kashmir Hill, y que Clearview AI pudo ver qué buscaban las fuerzas del orden público y cuándo lo buscaban.

Las preocupaciones sobre la tecnología de reconocimiento facial se han centrado durante mucho tiempo en cuestiones de privacidad y reclamos de prejuicios raciales en la tecnología. En diciembre de 2019, un estudio publicado por el Instituto Nacional de Estándares y Tecnología descubrió que la tecnología de reconocimiento facial tenía un sesgo racial, por lo general, era más difícil identificar a las personas y mujeres no blancas.

El miércoles, la representante Alexandria Ocasio-Cortez, demócrata de Nueva York, expresó sus temores sobre la tecnología de reconocimiento facial durante una reunión del Comité de Supervisión y Reforma de la Cámara.

“Esto es algo de la vida real de Black Mirror que estamos viendo aquí”, dijo Ocasio-Cortez, en referencia a la exitosa serie británica de Netflix que a menudo se desarrolla en los aspectos distópicos de la tecnología.

Alexandria Ocasio-CortezAlexandria Ocasio-Cortez
Alexandria Ocasio-Cortez

MANDEL NGAN / AFP a través de Getty Images

A pesar de las preocupaciones sobre la tecnología, las agencias de aplicación de la ley en los EE. UU. Han adoptado una tecnología tan controvertida, aunque el uso no se publicita a menudo debido a la naturaleza de las investigaciones policiales, informó Business Insider anteriormente.

Pero además de los riesgos y controversias típicos asociados con el uso de tecnologías de reconocimiento facial, Clearview AI presenta nuevos riesgos, ya que las fuerzas del orden público comparten imágenes potencialmente sensibles con el software con poco conocimiento de cómo la compañía maneja sus datos.

Como señaló The Times, las agencias policiales han tenido acceso a la tecnología de reconocimiento facial durante décadas, aunque herramientas como Clearview AI no limitan las búsquedas en las bases de datos del gobierno, que durante mucho tiempo ha sido una limitación para el software de reconocimiento facial de la policía.

Clearview AI dijo que su software fue efectivo aproximadamente el 75% del tiempo, aunque, como señaló The Times, es imposible determinar cuántos resultados falsos proporciona el servicio, ya que no ha sido probado por un tercero.

Lee mas:

Amazon está trabajando para desarrollar escáneres biométricos para vincular las huellas de las manos con las tarjetas de crédito, lo que permite a los compradores comprar con solo deslizar la palma de la mano.

Goldman Sachs enfatiza que decide quién recibe una Apple Card, después del desaire de Apple de que fue “creada por Apple, no por un banco”.

Estas prendas usan diseños extravagantes para engañar al software de reconocimiento facial para que piense que no es humano

AOC está haciendo sonar la alarma sobre el aumento del reconocimiento facial: “Esto es algo de la vida real” Black Mirror “

Lea el artículo original sobre Business Insider

LEAVE A REPLY

Please enter your comment!
Please enter your name here