OpenAI ha detectado y neutralizado una operación de influencia originaria de China que utilizaba ChatGPT para difundir narrativas diseñadas para influir en la política de inteligencia artificial y tecnología. Según la empresa, estas actividades representan un intento de interferencia extranjera en los datos y la opinión pública de Estados Unidos.
¿Cómo operaban estos agentes de influencia?
Los operadores utilizaron las capacidades de generación de texto de ChatGPT para crear contenido a escala, según el reporte de OpenAI. El objetivo central era moldear la percepción pública sobre la regulación y el desarrollo de la IA en territorio estadounidense. Esta técnica permite a los actores estatales producir volúmenes de propaganda significativamente mayores que los métodos tradicionales de granjas de troles.
¿Qué acciones tomó OpenAI para frenar la red?
La compañía procedió a la suspensión de las cuentas identificadas como parte de esta red de influencia. OpenAI señaló que el monitoreo de sus sistemas permitió detectar patrones de uso coordinado que violaban sus políticas de servicio. La empresa mantiene la vigilancia sobre nuevos intentos de manipulación automatizada para evitar que sus herramientas sean usadas en campañas de desinformación.
¿Por qué es relevante este caso de interferencia?
Este incidente marca un cambio en la táctica de interferencia extranjera. Mientras que las campañas previas dependían de redactores humanos para crear perfiles falsos, el uso de modelos de lenguaje permite una velocidad de despliegue superior. Según los datos de OpenAI, la capacidad de generar narrativas coherentes en inglés facilita la infiltración en debates políticos complejos de Estados Unidos, eliminando las barreras lingüísticas que antes delataban a los operadores extranjeros.
