Jack Clark, de Anthropic, sugirió que los interruptores de apagado en la inteligencia artificial podrían volverse obligatorios en medio del rápido avance tecnológico y el debate sobre los riesgos globales, según declaraciones ofrecidas a la BBC.
El debate sobre la seguridad de los modelos avanzados de inteligencia artificial ha dado un giro regulatorio tras las declaraciones de Jack Clark, de Anthropic, quien indicó que las exigencias en torno a los mecanismos de emergencia y su verificación externa deberían formar parte de una conversación política más amplia a nivel global.
Debate sobre los mecanismos de emergencia y la regulación obligatoria
Durante una entrevista exclusiva con el editor de economía de la BBC, Faisal Islam, Clark señaló que el momento para actuar es ahora, cuando la industria cuenta con un número reducido de actores clave, lo que facilita la implementación de un marco regulatorio capaz de prevenir accidentes y evitar que la tecnología pierda el control, tal como informó la cadena británica en su cobertura audiovisual.
«Should you mandate for companies to definitely have a kill switch? Is that kill switch verifiable by a third party?»
Photo: euperspectives.eu
Jack Clark, de Anthropic
Las discusiones sobre los riesgos existenciales asociados a los sistemas de frontera se intensificaron recientemente, luego de que un investigador de inteligencia artificial renunciara a Anthropic y generara un amplio eco en internet. En respuesta a esa dimisión, el científico Evan Hubinger estimó públicamente que la probabilidad de una extinción humana causada por la inteligencia artificial se sitúa en más del diez por ciento dentro de la próxima década.
Por su parte, el científico informático y premio Nobel Geoffrey Hinton, reconocido en el sector como el padrino de la inteligencia artificial, calificó dicha estimación como una cifra razonable. Las preocupaciones se centran en la posibilidad de que sistemas avanzados adquieran el control de infraestructuras críticas conectadas a internet.
Restricciones tecnológicas en Estados Unidos y tensiones con Europa
En paralelo a las discusiones sobre seguridad en el Reino Unido, la administración del presidente estadounidense Donald Trump ordenó a Anthropic restringir el acceso a sus dos modelos más potentes exclusivamente para usuarios en Estados Unidos, con el objetivo de evitar que adversarios como China y Rusia exploten la tecnología. Las limitaciones afectaron de inmediato al lanzamiento del modelo comercial Fable 5 y al sistema avanzado Mythos 5, vinculado al programa de ciberseguridad Project Glasswing.
Photo: bbc.com
La medida generó malestar en las instituciones europeas. Thomas Regnier, portavoz de la Comisión Europea, insistió en que cualquier empresa que ofrezca servicios en el continente debe cumplir estrictamente con la legislación comunitaria, incluyendo la ley de inteligencia artificial y las normativas de ciberseguridad, en declaraciones recogidas por el portal de análisis europeo.
'AI needs a mandatory kill-switch', Anthropic co-founder Jack Clark tells BBC | BBC News
«The United States is once again demonstrating what we Liberals and Democrats have warned about so many times since Trump entered into office; that the US holds a real ‘kill-switch’ over essential technologies and that they are more than willing to use it.»
Christophe Grudler, eurodiputado de Renew Europe por Francia
Eurodiputados como Bart Groothuis y Christophe Grudler advirtieron que la decisión demuestra una dependencia digital preocupante, señalando que Washington mantiene un control sobre infraestructuras tecnológicas esenciales y que la Unión Europea necesita desarrollar sus propios modelos lingüísticos de gran tamaño y alternativas de código abierto para evitar lo que denominaron una colonización digital.
Valoraciones de mercado y escepticismo en la industria
Mientras Anthropic se prepara para una oferta pública inicial en la bolsa de valores con una valoración estimada en 965 mil millones de dólares, equivalentes a 713 mil millones de libras esterlinas, persisten las dudas sobre la sostenibilidad financiera del sector. OpenAI, valorada en 852 mil millones de dólares o 630 mil millones de libras, frenó temporalmente sus planes bursátiles debido al debate actual en torno a la seguridad.
Photo: bbc.co.uk
Voces del sector tecnológico han manifestado reservas sobre el alcance real de las advertencias apocalípticas. George Arison, director de Grindr, afirmó que los temores públicos son utilizados por las propias compañías para respaldar sus planes comerciales y justificar valoraciones de mercado. En la misma línea, Bruce Schneier, criptógrafo y profesor de la Universidad de Harvard, restó dramatismo a las capacidades de los modelos actuales, calificando los avances recientes como mejoras incrementales dentro de la evolución tecnológica del sector.
Trump says only AI guardrail needed is 'high IQ president', Anthropic 'kill switch' call | ABC NEWS
