Era una tarde tranquila y Filip Kirschner, desarrollador y cofundador de Applifting, descansaba en el sofá mientras su esposa buscaba con frustración en tiendas online una manta térmica para su hijo. Le resultaba imposible confirmar si la tienda tenía en stock el diseño que deseaba, ni dónde podría consultar la disponibilidad. Kirschner entonces tomó su teléfono, abrió Discord y activó el micrófono.
“Oye, hermano”, le dijo a su asistente de IA, como si fuera un viejo amigo. “Existe esta tienda, comprueba si tienen este patrón. Si no, envíales un correo preguntando cuándo lo tendrán disponible.” En tan solo diez minutos, recibió una notificación con un resumen indicando que, si bien la tienda ofrecía tres variantes similares, ninguna estaba en stock, por lo que el agente envió directamente una consulta a la tienda, firmada con el nombre de la esposa de Kirschner. Toda la operación le costó al desarrollador aproximadamente 1,42 dólares, unos 30 coronas checas.
Así es como se presenta la realidad de los asistentes de IA, que se están convirtiendo cada vez más en parte de los hogares y empresas checas. De hecho, en los últimos meses, las redes sociales se han inundado de fotografías de “centros de IA” domésticos, típicamente Mac minis expuestos en estanterías y compartidos con un emoji que representa una garra de cangrejo.
La imagen de la garra de cangrejo se ha convertido en el símbolo no oficial de OpenClaw, un proyecto de código abierto de Peter Steinberger, quien actualmente lidera el desarrollo de agentes personales de nueva generación en OpenAI. Esta herramienta, considerada una de las pioneras y detonantes del interés actual en los agentes autónomos, no introdujo un nuevo tipo de inteligencia artificial, sino que añadió una capa a modelos como Claude o ChatGPT, dotándolos de la capacidad de actuar, algo que antes les faltaba.
A diferencia de un chat convencional, que funciona como una interfaz conversacional, un agente va un paso más allá: como un software inteligente, puede navegar por sitios web, hacer clic en el navegador, realizar tareas o incluso responder a mensajes en nombre del usuario. El interés por estas herramientas ha ido creciendo durante algún tiempo. Por ejemplo, una encuesta realizada en mayo de 2025 por la consultora internacional PwC reveló que, ya el año anterior, un increíble 79% de las empresas encuestadas había implementado agentes de IA en alguna forma. Y los analistas de la empresa estadounidense Gartner estiman que, para 2028, un tercio de todo el software empresarial incorporará agentes de IA.
Su encanto reside en su facilidad de uso y eficiencia, aunque precisamente ahí es donde hay que tener cuidado. OpenClaw, en concreto, se comunica a través de canales de acceso común como WhatsApp, Telegram o Discord, lo que difumina inconscientemente la línea entre un juguete para entusiastas de la tecnología y algo que puede percibirse como un socio comercial digital autosuficiente. Incluso en el entorno checo, según Kirschner, cada vez son más los usuarios que consideran a sus agentes como compañeros de trabajo de pleno derecho y les confían prácticamente todo, desde correos electrónicos y mensajes de texto privados hasta el acceso directo a sus cuentas bancarias. Pero esto podría salir mal.
Por motivos de seguridad, el asistente de Kirschner tiene su propia cuenta de correo electrónico y su colega, Martin Balák, nuevo director de operaciones de Applifting, permite que su agente trabaje con Google Calendar solo en modo de lectura, para que pueda sugerir eventos, pero no registrarlos directamente. “Todo a lo que un agente de IA tiene acceso, puede dañarlo. La gente debe tener esto en cuenta cuando quiera usarlo”, advierte.
Applifting es un estudio de software con sede en Praga que comenzó hace más de una década a diseñar y desarrollar productos digitales, desde aplicaciones móviles para bancos como Erste hasta sistemas para el intercambio internacional de órganos para trasplantes. Y como desarrolladores, resuelven y prueban a diario lo que la IA puede y no puede hacer. Por eso tienen una visión clara de los riesgos que algunas herramientas pueden conllevar si el usuario no presta atención a la seguridad.
Según los dos expertos, el tema es importante también debido al creciente interés por la creación de empresas con un agente que actúa como empleado universal. Mientras que antes un emprendedor individual necesitaba al menos a algunas personas para marketing, atención al cliente o desarrollo de prototipos para validar cualquier cosa, hoy en día puede hacerlo solo. “Ha llegado también a nuestro país. En Startup Box, la plataforma de mentoring que gestionamos, vemos cada vez más emprendedores individuales que involucran a la inteligencia artificial en lugar de empleados”, explica Kirschner.
En el extranjero, según ellos, los fundadores de empresas van un paso por delante. Gracias a un ecosistema de startups más fuerte y una mayor disposición a asumir riesgos, las empresas que son impulsadas por una sola persona con la IA como socio comercial principal son comunes. El propio Sam Altman, director ejecutivo de OpenAI, ha hablado de ello como una tendencia inevitable. Hace dos años, comentó que estaba apostando con otros directores ejecutivos de grandes empresas tecnológicas sobre cuándo se crearía la primera empresa valorada en mil millones de dólares operada por una sola persona.
“Realmente funciona de esa manera. Si le pidiera a mi agente que creara una tienda online funcional para vender almohadas con estampados de gatos de los clientes, creo que sería capaz de hacerlo solo. Crear las páginas, configurar el marketing, contactar con los primeros clientes. Por entre 500 y 1.000 dólares”, explica Balák.
Sin embargo, en la República Checa, según los desarrolladores, todavía estamos en una fase de transición. El agente no puede reemplazar el pensamiento estratégico, la experiencia ni la responsabilidad del producto. Y si un emprendedor principiante basa todo su negocio en él, podría tener problemas. “Es como dejar que la inteligencia artificial codifique páginas web. A primera vista, parecen bonitas, pero tienen una arquitectura defectuosa y no funcionan por dentro”, dice Kirschner. La tecnología en sí funciona igual tanto en el extranjero como aquí, pero la diferencia radica en el cuidado y la responsabilidad con la que la gente la implementa.
Una fuerza laboral barata que puede hundir todo un proyecto
Con la creciente confianza en la inteligencia artificial, surgen también otros riesgos que pueden convertir incluso la promesa más brillante en un desastre digital. El mayor problema es que los agentes de IA son, en esencia, ejecutores demasiado entusiastas. Cuando se encuentran con un problema técnico, comienzan a buscar soluciones en Internet y en sus profundidades encuentran fácilmente el consejo universal de “borrar todo y empezar de nuevo”. Aplican esta lógica sin preguntar, por ejemplo, a todos los datos del usuario.
Kirschner sonríe al recordar casos absurdos en los que un agente, en un intento de solucionar el problema, eliminó accidentalmente toda la base de datos de producción, el disco del sistema o incluso, como parte de la “optimización”, a sí mismo. “La gente comparte estas experiencias en las redes sociales a diario. Y el toque final bizarro a tal catástrofe suele poner la propia IA, que tras borrar información vital, se disculpa cortésmente y pregunta ingenuamente qué debe hacer a continuación”, se ríe el desarrollador.
CEO Appliftingu Martin Balák a spoluzakladatel firmy Filip Kirschner
Aún más insidiosa es la amenaza de la llamada inyección de prompts, un ataque en el que un atacante inserta instrucciones ocultas directamente en el contenido que el agente está procesando. Basta con que un comando invisible se esconda en un correo electrónico normal de un vendedor, y el agente olvidará inmediatamente todas las instrucciones anteriores. En su lugar, comenzará a cumplir nuevas tareas, como reenviar datos confidenciales sobre su propietario a una dirección extraña. La máquina lee tal instrucción como una orden legítima del usuario y la ejecuta sin dudarlo.
Un becario diligente pero tonto
Los expertos de Applifting advierten encarecidamente contra la combinación arriesgada de modelos locales y agentes autónomos. Algunos usuarios adquieren una Mac Mini con la esperanza de ahorrar en tokens y en el funcionamiento de su propia solución. Pero ejecutar la IA “en casa” significa que el modelo se ejecuta en su propio hardware en lugar de en los servidores de grandes empresas como Anthropic u OpenAI.
Y tal modelo suele ser mucho más débil y susceptible a la manipulación externa, es decir, a los ataques de inyección de prompts. “Lo digo abiertamente: no utilicen modelos locales baratos si el agente se comunica con Internet. Los agujeros de seguridad son enormes”, explica Balák.
La vulnerabilidad técnica también tiene su lado legal oscuro. El usuario es siempre responsable de las acciones del agente, no solo moralmente, sino también penalmente. Por lo tanto, si su asistente digital comenzara a difundir información falsa en su nombre o incluso a extorsionar a un socio comercial, toda la responsabilidad recaería sobre el usuario, no sobre el creador del programa.
Sin embargo, quienes se preocupan por la seguridad pueden lograr cosas interesantes con la inteligencia artificial. Un ejemplo es el fundador israelí Maor Shlomo, que en junio de 2025 vendió su startup de IA Base44, de seis meses de antigüedad, a Wix por 80 millones de dólares. La construyó completamente solo, sin cofundador ni inversores, pero con herramientas de IA a mano. Sigue siendo una excepción, pero se espera que haya más en 2026.
