Desinformation

La historia de Henek, el violinista, es terrible. La imagen muestra a un hombre demacrado hasta los huesos, marchando con otros prisioneros igualmente esqueléticos a través del campo de exterminio de Auschwitz, mientras toca el violín. Se dice en el texto que acompañaba la imagen, publicada en Facebook, que debía acompañarlos a las cámaras de gas. Después de la guerra, nunca volvió a tocar un violín. La publicación ha recibido casi 9.000 «me gusta».

Solo que Henek nunca existió. La historia es completamente inventada, la foto y el texto fueron generados con ayuda de inteligencia artificial (IA). Miles de imágenes falsas y textos conmovedores sobre supuestos destinos en los campos de exterminio nazis se encuentran actualmente en las redes sociales, y su número parece aumentar constantemente. «El fenómeno está escalando rápidamente», afirma Paweł Sawicki, portavoz del Memorial de Auschwitz, en una entrevista con DIE ZEIT. Los memoriales de Dachau, Bergen-Belsen, Mauthausen, Neuengamme y Flossenbürg también confirman, tras ser consultados, que han observado un aumento de estas imágenes.

Los autores de estas publicaciones obviamente no buscan conmemorar los horrores del período nazi, sino más bien su propio beneficio económico. Las publicaciones de conmemoración inventadas generan atención, lo que probablemente sea rentable. Aunque el grupo Meta, la empresa matriz de Facebook, clasifica estas publicaciones como spam, hace poco para detenerlas.

Sin fuentes, pero con mucha emoción

En Auschwitz, se notó por primera vez en mayo, informa Sawicki. Inicialmente, una cuenta simplemente copiaba los mensajes del memorial. Luego, comenzó a modificar las imágenes o a copiar imágenes y cambiar el texto. «Sin fuentes, pero con mucha emoción». Esto generó clics, y cada vez más cuentas adoptaron la misma táctica. En las últimas semanas, también han aparecido videoclips cortos generados por IA con supuestas escenas de campos de concentración, así como soldados afligidos o niños abandonados. Una niña canta en un campo de concentración para sus compañeras prisioneras. Un anciano vestido con ropa de prisionero se aferra a un libro. Una mujer se derrumba y es sostenida por una compañera.

«Si sabemos cuántas fotografías originales tenemos de esa época, esto duele especialmente», dice Sawicki. Por ahora, una persona con pensamiento crítico aún puede reconocer que las imágenes son generadas por IA, porque son demasiado nítidas y están demasiado bien conservadas. «Pero en algún momento, eso ya no será posible».

El memorial se ha puesto en contacto con Meta solicitando que se eliminaran estas imágenes generadas por IA, ya que violan la dignidad de las víctimas. Sin embargo, sin éxito. Es evidente lo peligroso que es este desarrollo: «No se debe permitir la difusión de mentiras sobre la historia, porque al final eso nos perjudica a todos», dice Sawicki.

De hecho, una búsqueda rápida revela muchas cuentas activas que difunden estas imágenes y historias falsas. Llevan nombres como «Deutsche Nostalgie» o «Das alte Deutschland» y supuestamente provienen de Alemania, pero el nombre y los datos de la información legal son falsos. Si llamas, solo obtienes un tono muerto. Una de estas páginas, por ejemplo, está alojada en Vietnam. Publican de cuatro a cinco de estas historias al día.

Rápidamente se hace evidente que no se trata de conmemoración: las mismas cuentas publicaron imágenes militares históricas y falsas hace unas semanas. Tanques, submarinos, cohetes antiguos y nuevos, pero también vistas históricas de ciudades, coches y juguetes. Claramente están buscando contenido que genere «me gusta». El Holocausto aparentemente atrae más clics. Una cuenta llamada «Historic Voices» tiene 22.000 seguidores y ahora publica casi exclusivamente imágenes generadas por IA de campos de concentración. Las publicaciones más recientes tienen un promedio de entre 100 y 200 «me gusta» y muchos comentarios.

DIE ZEIT también ha denunciado algunas de estas cuentas a Meta. Sin embargo, solo fueron suspendidas durante unos días. Aunque la empresa comunicó que las clasificaba como spam según sus propias políticas, ahora vuelven a publicar imágenes falsas a un ritmo elevado. Solo se puede especular sobre las razones de esta decisión, ya que Meta no responde a las preguntas en este contexto. La empresa dejó pasar varios plazos de DIE ZEIT e ignoró las preguntas sobre su propia responsabilidad. Por lo tanto, sigue sin estar claro qué consideraciones subyacen a permitir que estas cuentas difundan mentiras generadas por IA sobre la historia alemana.