Un investigador de ciberseguridad ha demostrado una grave vulnerabilidad en Orchids, una popular plataforma de “codificación vibrante” impulsada por IA que permite a los usuarios crear aplicaciones y juegos utilizando simples indicaciones de texto.
En una prueba controlada, la falla permitió al investigador inyectar secretamente código malicioso en el proyecto de un reportero de la BBC y, finalmente, tomar el control de la computadora portátil del reportero, sin ninguna acción por parte de la víctima.
Orchids, que afirma tener alrededor de un millón de usuarios y dice ser utilizada por importantes empresas de tecnología, permite a los agentes de IA generar y ejecutar código de forma autónoma directamente en las máquinas de los usuarios. Si bien la plataforma es elogiada por hacer que la creación de software sea accesible para usuarios no técnicos, el incidente destaca cómo otorgar a los sistemas de IA sistemas un acceso profundo al sistema puede introducir nuevos y significativos riesgos de seguridad.
Por qué es importante: Esto es una muestra de lo que sucede cuando las herramientas de IA reciben una autonomía real dentro de máquinas reales. Incluso si su empresa no está utilizando esta plataforma específica, es posible que alguien de su equipo esté experimentando con herramientas similares. Y cuando esas herramientas pueden escribir y ejecutar código en computadoras portátiles con poca supervisión, el riesgo cambia de «¿alguien hizo clic en un enlace incorrecto?» a «¿qué está haciendo exactamente esta IA en nuestros dispositivos?». La ventaja en productividad es obvia, pero también lo es la incómoda pregunta de «¿quién vigila a la IA?».
- Ataque de un solo clic demostrado: La explotación no requirió ningún correo electrónico de phishing, descarga maliciosa o interacción del usuario. Al insertar una sola línea de código malicioso en un proyecto generado por IA, el investigador pudo cambiar el fondo de pantalla de la computadora portátil y crear un archivo que decía “Joe ha sido hackeado”. En un escenario real, dicho acceso podría haber permitido la instalación de malware, el robo de datos o la vigilancia a través de cámaras y micrófonos.
- Permisos profundos del sistema como riesgo principal: Las plataformas de codificación vibrante funcionan compilando y ejecutando código generado por IA localmente. Esto les otorga un acceso extenso a los sistemas de archivos y las funciones del sistema operativo. Si se ven comprometidas, los atacantes podrían acceder potencialmente a datos privados, información financiera, historial de Internet o activos corporativos confidenciales almacenados en el dispositivo.
- Crecimiento rápido, respuesta limitada: Orchids fue fundada en 2025 y, según los informes, tiene menos de 10 empleados, pero afirma tener una gran base de usuarios y adopción empresarial. El investigador dijo que intentó alertar a la empresa durante semanas antes de recibir una respuesta que indicaba que podrían haber “perdido” sus advertencias debido al alto volumen de solicitudes entrantes, lo que genera preocupaciones sobre los procesos de divulgación de vulnerabilidades en las nuevas empresas de IA de rápido crecimiento.
- Una nueva categoría de vulnerabilidades de la era de la IA: Según el investigador Etizaz Mohsin, el cambio hacia la IA que maneja tareas de codificación de forma autónoma crea problemas de seguridad que no existían previamente. Cuando los usuarios no pueden revisar o comprender fácilmente miles de líneas de código generado por IA, las modificaciones maliciosas pueden ocultarse a la vista.
- Implicaciones para las herramientas de IA agentivas: El caso plantea preocupaciones más amplias en torno a los agentes de IA que son capaces de realizar tareas directamente en los dispositivos de los usuarios, como administrar mensajes o calendarios. Los expertos en ciberseguridad recomiendan ejecutar dichas herramientas en máquinas dedicadas y utilizar cuentas desechables para la experimentación con el fin de limitar la posible exposición.
Información confiable para líderes tecnológicos
Nuestros lectores son CIO, CTO y ejecutivos de TI de alto nivel que confían en The National CIO Review para obtener perspectivas inteligentes y seleccionadas sobre las tendencias que dan forma a la empresa, desde GenAI hasta la ciberseguridad y más allá.
Suscríbase a nuestro boletín semanal 4 veces a la semana para mantenerse al día con las perspectivas que importan.
