Elon Musk’s X, antes Twitter, prohibirá que los usuarios generen ingresos en la plataforma si publican repetidamente videos de guerra generados por inteligencia artificial sin etiquetar, tras la proliferación de escenas de batalla falsas relacionadas con el conflicto en Irán.
La plataforma de redes sociales, que cuenta con aproximadamente 500 millones de usuarios activos mensuales, suspenderá la capacidad de los creadores de obtener ingresos por sus publicaciones durante 90 días si comparten videos generados por IA de un conflicto armado sin indicar que fueron creados con inteligencia artificial. Una segunda infracción resultará en una prohibición permanente, según anunció la compañía el martes por la noche, después de que los primeros días del conflicto en Irán se caracterizaran por una avalancha de material falso en línea.
Las líneas de tiempo en X, así como en Instagram y Facebook, propiedad de Meta, han difundido numerosas escenas de batalla falsificadas, incluyendo imágenes de cohetes iraníes persiguiendo y derribando un avión estadounidense –que fue visto 70 millones de veces, según verificaciones de BBC Verify– y otro clip que utilizó IA para reemplazar el humo de un ataque con misiles real con una bola de fuego artificial varias veces más grande.
Los usuarios pueden ganar cientos de dólares al mes en X como parte del modelo publicitario de la plataforma si construyen una base de seguidores sustancial, cercana a los 100.000 seguidores, lo que incentiva la producción de publicaciones virales impactantes.
Nikita Bier, jefe de producto de X, declaró: “En tiempos de guerra, es fundamental que las personas tengan acceso a información auténtica sobre el terreno. Con las tecnologías de IA actuales, es trivial crear contenido que pueda engañar a la gente. A partir de ahora, los usuarios que publiquen videos generados por IA de un conflicto armado, sin añadir una indicación de que fueron creados con IA, serán suspendidos de la participación en los ingresos de los creadores durante 90 días. Las infracciones posteriores darán lugar a una suspensión permanente del programa.”
Otros videos falsos de la guerra han alcanzado una gran difusión. Un clip que circulaba en Instagram, que pretendía mostrar una gran conflagración después de que “Irán destruyera la base aérea estadounidense en Riad”, resultó ser un video de hace 18 meses de las secuelas de un ataque israelí a una refinería de petróleo en Hodeidah, Yemen.
Full Fact, la organización británica de verificación de datos, señaló que está “viendo cada vez más cómo la IA acelera la difusión de desinformación en las redes sociales”.
Steve Nowottny, editor de Full Fact, dijo: “En los últimos días hemos visto muchos ejemplos de imágenes generadas por IA compartidas en diferentes plataformas de redes sociales como si fueran reales, incluyendo fotos falsas de un portaaviones y el Burj Khalifa en llamas, y una imagen que supuestamente muestra el cuerpo del ayatolá Jamenei.
“Incluso cuando las imágenes generadas por IA parecen de baja calidad, o todavía tienen una marca de agua visible, a menudo las vemos compartidas a gran escala, y el mero volumen de este contenido falso y la facilidad con la que se genera y se difunde es una preocupación real.”
Sam Stockwell, investigador de IA en información en línea en el Centro de Tecnología Emergente y Seguridad del Reino Unido, dijo que parece haber una nueva tendencia de usuarios que le piden a los chatbots de IA que verifiquen si los videos son falsificaciones generadas por IA.
“Desafortunadamente, los chatbots no son muy buenos para evaluar eventos en tiempo real”, afirmó.
Sin embargo, esto no impide que las personas publiquen las evaluaciones incorrectas de los chatbots como prueba de que algo es real. “La gente está tratando de manipular los resultados de la IA para respaldar su narrativa y argumentos sobre la guerra”, añadió.
Meta ha sido contactada para obtener comentarios.
