Un alto investigador de Meta advirtió a los ejecutivos de la compañía que podrían ocurrir hasta 500.000 casos de explotación sexual en línea por día en Facebook e Instagram, según documentos explosivos que fueron revelados en vísperas de un juicio histórico.
Los alegatos iniciales comienzan el lunes en el caso presentado por el Fiscal General de Nuevo México, Raúl Torrez, ante un tribunal estatal, que acusa al gigante de las redes sociales de Mark Zuckerberg de exponer a los niños a los “peligros gemelos de la explotación sexual y el daño a la salud mental” a través de mensajes inquietantes, esquemas de “sextorsión” y la trata de personas.
El estado afirma que el resultado es una crisis de redes sociales para adolescentes que ha provocado ansiedad, depresión, autolesiones y un aumento de los suicidios.
Antes del juicio, los abogados del estado citaron un correo electrónico interno en el que Malia Andrus, quien ocupó cargos relacionados con la seguridad infantil en Meta de agosto de 2017 a octubre de 2024, escribió que los depredadores se dirigían a “~500.000 víctimas por DÍA solo en los mercados de habla inglesa” con mensajes sexualmente inapropiados.
“Esperamos que la situación real sea peor”, dijo Andrus en un correo electrónico de junio de 2020, según los registros judiciales.
En otro mensaje escalofriante, Andrus señaló que la masiva base de usuarios de Facebook e Instagram ha entregado efectivamente a los depredadores una herramienta para atacar a los niños a una escala previamente inimaginable.
“Simplemente creo que, en la historia de la humanidad, nadie podría tener una conversación secreta con 1000 personas”, escribió. “Realmente me asustan las repercusiones aquí”.
La demanda de Nuevo México es una de varias batallas legales que enfrenta Meta este año, y buscará arrojar luz sobre las fallas de seguridad que han llamado la atención de los legisladores estadounidenses en el Capitolio.
La semana pasada, comenzó en California un juicio de referencia que acusa a Meta y a YouTube, propiedad de Google, de alimentar la adicción a las redes sociales en los jóvenes, con cientos de familias de víctimas y distritos escolares como demandantes. En otro lugar, la FTC apeló el mes pasado su derrota en la importante demanda antimonopolio que busca la disolución de Meta.
Los múltiples juicios que acusan a Meta de exponer a los niños al daño son una “pantalla dividida de pesadillas para Mark Zuckerberg”, según Sacha Haworth, directora ejecutiva de Tech Oversight Project, un grupo de vigilancia.
“Estos son los juicios de una generación; así como el mundo observó las salas del tribunal responsabilizar a Big Tobacco y Big Pharma, veremos por primera vez a los CEO de Big Tech como Zuck en el estrado”, dijo Haworth. “El mundo está observando, el ajuste de cuentas de Meta ha llegado y las consecuencias apenas comienzan”.
El caso de Nuevo México ha sido seguido de cerca en parte debido a los detalles escandalosos que surgieron durante su investigación de las prácticas de Meta.
Se alega que las cuentas de prueba configuradas por los investigadores del estado fueron bombardeadas con contenido sexual para adultos y acercamientos de presuntos depredadores infantiles, incluidos “fotos y videos de genitales” y una oferta de un pago de seis cifras para protagonizar un video pornográfico, según la demanda.
En otros correos electrónicos detallados en los documentos previos al juicio, se alega que Andrus criticó las herramientas de verificación de edad destinadas a mantener a los usuarios menores de edad fuera de Instagram, advirtiendo que eran fácilmente engañadas.
“Nuestros investigadores han dado su opinión de que casi cada vez que se encuentran con un mentiroso de edad en IG (en un contexto de seguridad infantil), la predicción de edad es incorrecta (se alinea con la edad que afirman falsamente tener)”, escribió Andrus, según los documentos judiciales.
Un portavoz de Meta dijo que las discusiones internas citadas en los documentos se llevaron a cabo como parte de un esfuerzo activo de la compañía para proteger a los niños.
“Si bien Nuevo México presenta argumentos sensacionalistas, irrelevantes y distractores, estamos enfocados en demostrar nuestro compromiso de larga data para apoyar a los jóvenes”, dijo el portavoz en un comunicado. “Durante más de una década, hemos escuchado a los padres, hemos trabajado con expertos y las fuerzas del orden, y hemos realizado investigaciones en profundidad para comprender los problemas que más importan”.
Andrus, quien dejó Meta en 2024 y ahora trabaja en un puesto de seguridad en línea para OpenAI, no respondió a una solicitud de comentarios.
El estado argumentó que Andrus tiene un profundo conocimiento del manejo del problema de abuso sexual en línea por parte de Meta porque trabajó extensamente en la investigación interna, incluida la participación como miembro de un “Grupo de Trabajo de Acosadores, que examinó a los depredadores adultos que solicitaban a menores”.
“La Sra. Andrus también comentó sobre la falta de inversión adecuada de Meta en la seguridad infantil, la naturaleza engañosa de algunas de sus métricas de seguridad infantil informadas públicamente y la (no divulgada) inmadurez de las medidas de seguridad infantil de Instagram”, decía el documento del estado.
Antes del juicio, los abogados de Meta intentaron bloquear cualquier mención de varios temas delicados, incluidos los chatbots de IA de la compañía, las encuestas de investigación que detallan los efectos nocivos de sus productos en la salud mental y los detalles de la explosiva operación encubierta que los investigadores de Nuevo México llevaron a cabo para revelar casos de abuso sexual en línea.
El Juez del Primer Distrito Judicial, Bryan Biedscheid, finalmente rechazó las solicitudes durante las audiencias previas al juicio.
En otro lugar, documentos internos mostraron que Zuckerberg aprobó permitir que los menores usaran los compañeros de chatbot de IA de Meta incluso después de que los empleados de seguridad advirtieran que podrían usarse para conversaciones románticas o sexualizadas. Reuters fue el primero en informar sobre los documentos.
Torrez ha criticado agresivamente a Zuckerberg antes del juicio. Como informó The Post en diciembre, denunció la implementación por parte de Instagram de un sistema de clasificación PG-13 para proteger a los niños del contenido ilícito como una “peligrosa maniobra promocional que adormece a los padres con una falsa sensación de seguridad”.
Meta ha respondido, acusando a Torrez de hacer afirmaciones “llenas de errores fácticos y tergiversaciones” e ignorar el progreso de la compañía en la mejora de las salvaguardias para los niños.
