Umsetzung

El tiempo apremia en lo que respecta a la regulación actual: el 2 de agosto de 2027 entrarán en vigor las obligaciones para los sistemas de IA de alto riesgo como componente de seguridad y se aplicará en su totalidad la Ley de IA de la UE. La nueva normativa de la UE sobre máquinas también establece nuevos requisitos a partir de enero de 2027 para la IA relevante para la seguridad y los sistemas de autoaprendizaje. Por este motivo, el Fraunhofer IPA y Arena2036 iniciaron un laboratorio real que finalizó, según lo previsto, el 31 de diciembre de 2025. Los resultados se han publicado ahora.

El objetivo de “KIRR Real: Laboratorio real para la IA y la robótica conformes a la ley” del Fraunhofer IPA y ARENA2036 fue apoyar a las empresas de Baden-Württemberg en la implementación de la Ley de IA de la UE y la normativa de la UE sobre máquinas que entrará en vigor en 2027. Los resultados de la colaboración con 15 empresas sirven de orientación a empresas con aplicaciones similares para el desarrollo legalmente seguro de aplicaciones de IA y robótica.

Asesoramiento regulatorio y técnico para empresas

KIRR Real ayudó a las empresas a comprender e implementar los complejos requisitos reglamentarios. Para ello, se ofrecieron “Legal Quick Checks”, es decir, proyectos de asesoramiento breves y concisos. El proceso consistió en:

• Una firma de abogados clasificó estos casos en una de las cuatro clases de riesgo de la Ley de IA (de riesgo mínimo a inaceptable).
• Posteriormente, el Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA revisó la documentación técnica y los conceptos subyacentes del desarrollo de la IA para evaluar la conformidad legal de los sistemas y elaborar recomendaciones de acción prácticas.

El proyecto se desarrolló del 15 de noviembre de 2024 al 31 de diciembre de 2025 y fue financiado por el Ministerio de Economía, Trabajo y Turismo de Baden-Württemberg. El consorcio estuvo formado por el Fraunhofer IPA y el campus de investigación ARENA2036, con el apoyo de varios socios asociados. Las principales preocupaciones del proyecto fueron investigar qué tan bien preparadas están las empresas de Baden-Württemberg para la Ley de IA y la normativa sobre máquinas, cómo interactúan y se superponen las dos regulaciones y dónde existen aún obstáculos en la regulación de la IA.

Impulso para una implementación práctica

Los hallazgos del proyecto proporcionan un impulso para una implementación práctica y un mayor desarrollo de la regulación de la IA y se reflejan activamente en el proceso legislativo, por ejemplo:

• a través de la participación en comités de normalización
• un intercambio regular con la Bundesnetzagentur (Agencia Federal de Redes), la Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (Instituto Federal de Seguridad y Salud en el Trabajo)
• un taller con el Ministerio Federal de Trabajo y Asuntos Sociales

Los resultados del proyecto también se incorporarán al diseño de los laboratorios reales previstos por la Ley de IA.

Crear conciencia sobre los requisitos reglamentarios

Durante el proyecto, se analizaron 15 casos de aplicación de la IA en áreas como la fabricación, la robótica humanoide, la atención médica y la gestión de personal. Incluso las empresas con un desarrollo avanzado de la IA aún necesitaban apoyo para implementar la Ley de IA. Las conversaciones también revelaron que a menudo falta conciencia sobre las próximas regulaciones. En la aplicación de la Ley de IA, a menudo se consideraba solo el nivel legal o el técnico. Sin embargo, ambos aspectos y la ocupación temprana con la regulación de la IA son cruciales para una implementación exitosa.

Desafíos en la implementación de los actos legales

Clasificación en clases de riesgo
La clasificación en clases de riesgo es particularmente desafiante para las empresas. Esta clasificación es crucial para la planificación de recursos, pero a veces no es inequívoca y depende en gran medida de los detalles del caso de aplicación. Por lo tanto, no siempre es posible orientarse por casos similares.

Falta de normas armonizadas
La falta de normas armonizadas significa que más sistemas de IA deben someterse a una verificación de conformidad por parte de terceros. En relación con la normativa sobre máquinas, muchos expertos también ven la necesidad de aclarar qué se entiende exactamente por un sistema con “comportamiento de autoaprendizaje”.

Implementación técnica de los requisitos
Otro tema es la implementación técnica de los requisitos. A muchas empresas les preocupan cuestiones como:

• ¿Cómo se debe proporcionar evidencia?
• ¿Qué tan extensa debe ser la documentación?
• ¿Cuándo es la IA parte de una máquina?

El manejo de múltiples regulaciones vigentes también suele ser poco claro y genera temor a esfuerzos innecesarios. Además, muchas empresas no desarrollan sistemas de IA por completo por sí mismas, sino que utilizan modelos de IA de propósito general existentes para sus aplicaciones, lo que dificulta la presentación de la evidencia requerida. Las guías y ayudas disponibles hasta ahora apenas han tenido en cuenta esta práctica.

Integración de la IA en robots y otras máquinas

La integración de la IA en robots y otras máquinas presenta un desafío adicional con la nueva normativa sobre máquinas: las empresas deben adaptar sus productos existentes a la nueva normativa en los próximos doce meses, además de cumplir con las nuevas reglas para la IA en las funciones de seguridad.

Recomendaciones de acción del laboratorio real

La experiencia de KIRR Real demuestra que, si bien hay empresas que están abordando las regulaciones, las incertidumbres existentes, la gran cantidad de regulaciones a considerar y la falta de normas armonizadas plantean problemas.

• Guías: Existe una necesidad urgente de guías concretas, prácticas y fáciles de implementar, así como de procedimientos estructurados que comiencen temprano en el desarrollo.
• Apoyo de bajo umbral: En particular, los equipos de desarrollo de IA, independientemente del tamaño de la empresa, suelen ser pequeños y tienen dificultades para hacer frente a los esfuerzos requeridos. Las ofertas de apoyo (como los laboratorios reales) deben ser lo más accesibles posible para brindar un valor real.
• Apoyo temprano: Las empresas también deben recibir apoyo en las primeras fases de desarrollo, por ejemplo, a través de una evaluación legal de un caso de aplicación, talleres o asesoramiento durante el desarrollo de un sistema.

El Fraunhofer IPA continuará recopilando los hallazgos del trabajo del proyecto y participando activamente en el proceso legislativo, así como utilizándolos para la cooperación directa con las empresas. Las empresas pueden contactar con nuestros contactos para obtener más información. El objetivo sigue siendo desarrollar la regulación de la IA de una manera práctica y apoyar de manera óptima a las empresas de Baden-Württemberg. (eve)