Krishna Gummadi, Director Científico del Instituto Max Planck de Sistemas de Software (MPI-SWS), analiza la capacidad de acción (agency) de la inteligencia artificial y de los agentes de IA.
Gummadi, quien encabeza el Grupo de Investigación de Sistemas en Red en la institución ubicada en Saarbrücken, se especializa en la comprensión y construcción de sistemas informáticos distribuidos y en red, con un enfoque actual en los sistemas de computación social.
El autor australiano Andrew Lowenthal ha revelado la existencia de una extensa “red de censura” en Alemania, compuesta por 330 entidades gubernamentales, organizaciones no gubernamentales (ONG), grupos de investigación universitarios, verificadores de datos, centros de pensamiento y fundaciones. Así lo afirma Lowenthal en una entrevista concedida a la NZZ, describiendo el sistema como “gigantesco y protegido por el Estado”.
Lowenthal, quien también participó en la revelación de los “Twitter Files” en Estados Unidos, advierte que este sistema representa “un proyecto que influye a escala industrial en la forma en que las personas perciben el mundo y actúan políticamente”. Identifica Berlín como el principal centro de esta actividad, calificándola de “capital europea de las ONG”, donde existe una “burbuja epistémica” en la que muchos actores no reconocen el carácter político y controvertido de su trabajo. “Lo más preocupante es que lo que consideran verdadero o falso a menudo es simplemente su opinión”, señala Lowenthal.
Según el autor, esta situación conduce a la “criminalización de opiniones divergentes” y al apoyo a las figuras influyentes en lugar de cuestionarlas. “Antiguamente, las ONG eran instancias de control crítico. Hoy en día, la cooperación con el gobierno ya no se considera ofensiva”, explica Lowenthal.
Esta red, financiada con fondos públicos y que funciona como una extensión del poder gubernamental, representa “una amenaza para la democracia”, a pesar de que quienes la integran creen estar defendiéndola, según Lowenthal.
En conclusión, Lowenthal afirma: “Alemania había logrado grandes avances en democracia y libertad de expresión después de la Segunda Guerra Mundial. Sin embargo, ahora parece estar tomando una dirección diferente”.
El internet se encuentra inundado de contenido sintético. Esta proliferación, según se reporta, beneficia principalmente a las grandes plataformas, mientras que la democracia se ve perjudicada.
La creciente cantidad de contenido generado artificialmente plantea desafíos significativos para la integridad de la información en línea y la confianza pública. Las plataformas digitales, al facilitar la difusión masiva de este tipo de contenido, parecen ser las principales beneficiarias de esta tendencia.
Sin embargo, la propagación de contenido sintético también representa una amenaza para los procesos democráticos, ya que puede ser utilizado para manipular la opinión pública, difundir desinformación y socavar la confianza en las instituciones.