Una operación de influencia vinculada a China utilizó ChatGPT para diseñar un manual de estrategia en Facebook destinado a la creación de perfiles creíbles y la amplificación de narrativas. Según los informes, la tecnología de inteligencia artificial generativa fue empleada para optimizar la verosimilitud de las identidades digitales utilizadas en la red social.
¿Cómo utilizó China la IA para sus operaciones de influencia?
La operación aprovechó las capacidades de ChatGPT para automatizar la redacción y la estructuración de un manual de operaciones. De acuerdo con los datos disponibles, este documento guiaba a los actores detrás de la red en la creación de «personas» digitales con mayor credibilidad, permitiéndoles interactuar en Facebook de manera que parecieran usuarios reales y no cuentas automatizadas. El objetivo principal era mejorar la eficacia en la propagación de narrativas específicas mediante un comportamiento más humano y menos detectable por los sistemas de seguridad de la plataforma.
La evolución de las tácticas en redes sociales
El uso de herramientas de inteligencia artificial para perfeccionar tácticas de influencia marca un cambio significativo en comparación con los métodos tradicionales de «granjas de bots». Mientras que las operaciones anteriores dependían de la repetición masiva de mensajes, la integración de modelos de lenguaje como ChatGPT permite una personalización más sofisticada. Este enfoque busca superar las barreras de moderación de Facebook mediante la construcción de historiales y personalidades coherentes, un desafío técnico que las organizaciones de desinformación han intentado resolver durante años.
WORDPRESS YOUTUBE
¿Qué sigue para la seguridad en las plataformas?
El descubrimiento de este manual plantea interrogantes sobre la capacidad de las redes sociales para identificar contenido generado por IA que está diseñado específicamente para engañar a los algoritmos de detección. La vinculación de estas actividades con grupos de influencia chinos subraya una tendencia creciente donde los actores estatales o paraestatales integran tecnologías emergentes en sus estrategias de ciberoperaciones. Las plataformas ahora enfrentan la presión de ajustar sus protocolos de seguridad para distinguir entre la interacción humana genuina y la asistencia avanzada de inteligencia artificial en la creación de perfiles.
