¿Es posible abusar de la tecnología de inteligencia artificial para atacar la democracia previo a las elecciones?

“Lo más importante es el riesgo de desinformación. “La inteligencia artificial puede utilizarse para ser muy persuasiva y engañosa”.

<로봇의 지배> Esto es lo que dijo Martin Ford, el futurista que escribió el libro, en una entrevista con Media Today el día 1. Se llevó a cabo en Dongdaemun Design Plaza en Seúl los días 2 y 3. Visité Corea para hacer una presentación en el ‘Foro SBS D’ (SDF) celebrado bajo el tema. Dijo que la inteligencia artificial tendrá un gran impacto en la humanidad como la invención de la electricidad, pero que se necesita una “regulación” para responder a problemas como la información falsa.

Martin Ford dijo sobre el impacto de la inteligencia artificial: “El potencial de la inteligencia artificial es enorme. “Creo que no sólo nos ayudará a resolver los problemas que enfrentaremos en el futuro, como el cambio climático, sino que también será la tecnología más poderosa para resolver estos problemas”, afirmó. “Así como la electricidad afectó a todo “La inteligencia artificial afectará a todo”. “Tendrá un impacto”, dijo.

Martin Ford dijo: “La inteligencia artificial traerá enormes beneficios” y “el mayor de ellos es el potencial de innovación científica”. Presentó como ejemplo el proyecto ‘Alphapod’ de DeepMind. ‘Alphapod’ es una inteligencia artificial médica lanzada por DeepMind en 2018 y tiene una excelente capacidad para analizar estructuras de proteínas, desempeñando un papel en el desarrollo de nuevos fármacos para tratar enfermedades.

No sólo hay una “perspectiva optimista”. “Quizás lo más importante es el riesgo de desinformación”, dijo Martin Ford. “Vemos que ChatGPT produce textos muy convincentes. Sin embargo, esto puede ser completamente erróneo. “La preocupación es que la inteligencia artificial pueda usarse para engañar a la gente para que ataque la democracia y amenace las elecciones”, dijo.

“Se puede utilizar para crear medios falsos manipulados que pueden engañar a la gente y también para atacar la democracia. Si hay un político famoso que concede muchas entrevistas, puedes utilizar el algoritmo para aprender del estilo de discurso del político convirtiéndolo en datos. Y una vez que el algoritmo está entrenado en la forma en que habla una persona, puede hacer que la voz diga lo que quiera. Así que puedes imaginar que se utiliza para crear pistas de audio falsas de (políticos) diciendo locuras o cosas realmente malas para atacar a los políticos en las elecciones”.

La información incorrecta también puede utilizarse para cometer fraude. Martin Ford dijo: “Existe un caso en el que se creó un ‘deepfake’ haciéndose pasar por el director ejecutivo y ordenando a un representante del departamento de finanzas que transfiriera dinero a una cuenta, lo que en realidad resultó en la transferencia de millones de dólares”. Dijo: “Este director ejecutivo ha concedido muchas entrevistas (a los medios, etc.), por lo que tenemos datos sobre su voz. “Esta tecnología es cada vez más avanzada”.

Martin Ford dijo que se ocupa de cuestiones laborales cada vez que escribe un libro. En el pasado, cuando se desarrolló la tecnología, los ‘trabajadores manuales’ se vieron amenazados, pero esta vez es diferente. Predijo: “La inteligencia artificial amenazará muchos empleos administrativos, es decir, ocupaciones de conocimiento desempeñadas principalmente por personas con títulos universitarios”.

“Y los periodistas también se ven afectados. Un sistema que pueda generar automáticamente nuevos artículos puede escribir artículos”. Ya existen herramientas que pueden analizar datos, determinar qué contenido es interesante y luego generar artículos automáticamente.

Martin Ford dijo: “Entonces, lo que debemos hacer en el futuro es adoptar la inteligencia artificial para disfrutar de todos los beneficios (de la inteligencia artificial), y necesitamos regulaciones y políticas para abordar estos riesgos”, incluido el gobierno coreano. Creo que la mayoría de los gobiernos tendrán que afrontar la amenaza de la inteligencia artificial”.

Las organizaciones internacionales también dijeron que necesitaban responder al problema de la inteligencia artificial. Dijo: “En la mayoría de los casos, creo que es un problema que cada gobierno debería abordar, pero también hay problemas globales que deben resolverse a través de la ONU”. “Nos ocuparemos de los posibles problemas”, dijo.

Martin Ford dijo: “Creo que para garantizar un futuro positivo para la inteligencia artificial, necesitamos regulaciones que limiten las cosas malas que pueden suceder, necesitamos tener un nuevo contrato social y necesitamos crear un futuro en el que la gente no “Tenemos suficientes puestos de trabajo. “Creo que tenemos que encontrar una alternativa”, dijo.

Estados Unidos está buscando regular la inteligencia artificial. El presidente de Estados Unidos, Joe Biden, firmó una orden ejecutiva que contiene regulaciones sobre IA el día 30 del mes pasado. Para evitar información falsa proveniente de la inteligencia artificial, se proporciona una marca de identificación (marca de agua) para garantizar que el contenido sea creado por inteligencia artificial, y los desarrolladores de modelos de inteligencia artificial en campos importantes como la seguridad nacional, la economía y la salud pública deben informar al gobierno desde la etapa de entrenamiento de IA. Se debe realizar una notificación y los resultados de las pruebas de seguridad deben informarse al gobierno.

Respecto a esta orden ejecutiva, Martin Ford dijo: “No lo he verificado en detalle, pero parece haber resuelto algunos problemas” y agregó: “En Estados Unidos, las órdenes ejecutivas son bastante limitadas. “Esto no es la ley.” Dijo: “Sabes que hay elecciones el próximo año en los Estados Unidos y a mucha gente le preocupa que se utilicen deepfakes en las próximas elecciones”.