Corea del Sur ha dado un paso adelante en la regulación de la inteligencia artificial (IA), implementando lo que se describe como el conjunto de leyes más completo a nivel mundial. Esta legislación, que podría servir de modelo para otros países, ya ha generado controversia.
Las nuevas leyes, que obligarán a las empresas a etiquetar el contenido generado por IA, han sido criticadas tanto por las startups tecnológicas locales, que consideran que son demasiado restrictivas, como por grupos de la sociedad civil, que argumentan que no son lo suficientemente amplias.
La Ley Básica de IA, que entró en vigor el pasado jueves, surge en un contexto de creciente preocupación global por los medios creados artificialmente y la toma de decisiones automatizada, en un momento en que los gobiernos luchan por mantenerse al día con el rápido avance de estas tecnologías.
La ley obligará a las empresas que proporcionen servicios de IA a:
-
Añadir marcas de agua digitales invisibles a contenidos claramente artificiales, como dibujos animados o ilustraciones. Para los *deepfakes* realistas, se requerirán etiquetas visibles.
-
Realizar evaluaciones de riesgos y documentar cómo se toman las decisiones en los sistemas de “IA de alto impacto”, incluyendo aquellos utilizados para diagnóstico médico, contratación y aprobación de préstamos. Si un humano toma la decisión final, el sistema podría quedar fuera de esta categoría.
-
Los modelos de IA extremadamente potentes requerirán informes de seguridad, aunque el umbral está fijado tan alto que los funcionarios del gobierno reconocen que actualmente ningún modelo a nivel mundial lo cumple.
Las empresas que infrinjan las normas se enfrentarán a multas de hasta 30 millones de wones (aproximadamente 15.000 libras esterlinas), aunque el gobierno ha prometido un período de gracia de al menos un año antes de que se impongan sanciones.
La legislación se promociona como la “primera del mundo” en ser aplicada plenamente por un país, y es fundamental para la ambición de Corea del Sur de convertirse en una de las tres principales potencias mundiales en IA, junto con Estados Unidos y China. Los funcionarios del gobierno sostienen que la ley se centra en un 80-90% en la promoción de la industria, en lugar de restringirla.
Alice Oh, profesora de informática en el Instituto Avanzado de Ciencia y Tecnología de Corea (KAIST), señaló que, si bien la ley no es perfecta, está diseñada para evolucionar sin sofocar la innovación. Sin embargo, una encuesta realizada en diciembre por la Startup Alliance reveló que el 98% de las startups de IA no estaban preparadas para cumplir con la normativa. Su co-director, Lim Jung-wook, expresó una generalizada frustración: “Existe cierto resentimiento. ¿Por qué tenemos que ser los primeros en hacer esto?”.
Las empresas deben determinar por sí mismas si sus sistemas califican como IA de alto impacto, un proceso que los críticos consideran largo y que genera incertidumbre.
También advierten sobre un desequilibrio competitivo: todas las empresas coreanas deben cumplir con la regulación independientemente de su tamaño, mientras que solo las empresas extranjeras que cumplan con ciertos umbrales, como Google y OpenAI, deben hacerlo.
El impulso hacia la regulación se ha producido en un contexto interno particularmente delicado, que ha dejado a los grupos de la sociedad civil preocupados por el hecho de que la legislación no vaya lo suficientemente lejos.
Corea del Sur representa el 53% de todas las víctimas mundiales de pornografía *deepfake*, según un informe de 2023 de Security Hero, una empresa estadounidense de protección de la identidad. En agosto de 2024, una investigación reveló extensas redes de salas de chat de Telegram que creaban y distribuían imágenes sexuales generadas por IA de mujeres y niñas, presagiando el escándalo que más tarde estallaría en torno al chatbot Grok de Elon Musk.
Sin embargo, los orígenes de la ley se remontan a una crisis anterior, con el primer proyecto de ley relacionado con la IA presentado al parlamento en julio de 2020. Se estancó repetidamente, en parte debido a disposiciones que fueron acusadas de priorizar los intereses de la industria sobre la protección de los ciudadanos.
Los grupos de la sociedad civil sostienen que la nueva legislación ofrece una protección limitada a las personas afectadas por los sistemas de IA.
Cuatro organizaciones, incluyendo Minbyun, un colectivo de abogados de derechos humanos, emitieron una declaración conjunta al día siguiente de su implementación, argumentando que la ley contenía casi ninguna disposición para proteger a los ciudadanos de los riesgos de la IA.
Los grupos señalaron que, si bien la ley estipulaba protección para los “usuarios”, estos usuarios eran hospitales, empresas financieras e instituciones públicas que utilizan sistemas de IA, no las personas afectadas por la IA. La ley no estableció ningún sistema de IA prohibido, argumentaron, y las exenciones por “participación humana” crearon lagunas significativas.
La comisión de derechos humanos del país ha criticado el decreto de aplicación por carecer de definiciones claras de IA de alto impacto, señalando que aquellos con mayor probabilidad de sufrir violaciones de derechos siguen estando en puntos ciegos regulatorios.
En una declaración, el ministerio de ciencia y TIC dijo que esperaba que la ley “eliminara la incertidumbre legal” y construyera “un ecosistema de IA nacional saludable y seguro”, añadiendo que continuaría aclarando las normas a través de directrices revisadas.
Los expertos señalan que Corea del Sur ha elegido deliberadamente un camino diferente al de otras jurisdicciones.
A diferencia del estricto modelo regulatorio basado en riesgos de la UE, los enfoques impulsados por el mercado y específicos del sector de Estados Unidos y el Reino Unido, o la combinación de política industrial dirigida por el estado y regulación detallada específica del servicio de China, Corea del Sur ha optado por un marco más flexible y basado en principios, según Melissa Hyesun Yoon, profesora de derecho en la Universidad de Hanyang que se especializa en gobernanza de la IA.
Ese enfoque se centra en lo que Yoon describe como “promoción y regulación basadas en la confianza”.
“El marco de Corea servirá como un punto de referencia útil en las discusiones globales sobre la gobernanza de la IA”, afirmó.
