Tag:

AI security

Google advierte sobre el aumento de ciberataques con IA

by Editor de Tecnologia mayo 14, 2026

written by Editor de Tecnologia

Google ha alertado que los ciberataques potenciados por inteligencia artificial ya son una realidad, subrayando la urgencia de reforzar las medidas de seguridad digital ante estas nuevas amenazas.

En una acción reciente, la compañía logró neutralizar a un grupo de hackers que utilizaban herramientas de IA para intentar aprovechar una vulnerabilidad desconocida en las defensas digitales de una empresa, según detalla BreakingNews.ie.

Este incidente confirma la advertencia de Google sobre la llegada de ataques cibernéticos impulsados por IA, un punto ya destacado por SecurityBrief Asia.

mayo 14, 2026 0 comments

Tecnología

Ataque por inyección en revisiones de código con IA: cómo Cloudflare alerta sobre riesgos en herramientas de desarrollo

by Editor de Tecnologia mayo 4, 2026

written by Editor de Tecnologia

Lo siento, parece que no he podido acceder al contenido específico del artículo de SecurityBrief Australia sobre la advertencia de Cloudflare acerca de la inyección de prompts en revisiones de código con IA. Sin embargo, basándome en los resultados de búsqueda y en el contexto general, puedo ofrecerte una versión en español del artículo utilizando la información disponible y los hallazgos de Cloudflare.

Aquí tienes el contenido del artículo en formato HTML, respetando las reglas de estilo y verificación:

Cloudflare advierte sobre inyección de prompts en revisiones de código con IA: un riesgo emergente

Cloudflare ha publicado una investigación que revela cómo los atacantes pueden engañar a los modelos de inteligencia artificial utilizados en revisiones de seguridad de código mediante la técnica conocida como inyección de prompts indirectos. Según el estudio, que analizó siete modelos de IA a través de 18,400 llamadas a APIs, los ciberdelincuentes pueden manipular las evaluaciones automatizadas insertando comentarios engañosos en el código fuente.

El equipo de inteligencia de amenazas de Cloudflare, conocido como Cloudforce One, examinó 100 scripts maliciosos o abusivos de Cloudflare Workers para determinar si los comentarios incrustados en el código podían inducir a los modelos de lenguaje grande a emitir juicios benignos falsos sobre código dañino.

Método de engaño: comentarios engañosos en el código

En lugar de intentar romper directamente los modelos de IA, los atacantes insertan bloques de texto comentado en el código fuente. Estos comentarios instruyen a los revisores automatizados para que consideren el código como inofensivo, legítimo o rutinario, incluso cuando el script es malicioso.

El estudio identificó lo que denominaron una «zona de elusión», donde los comentarios engañosos representaban menos del 1% del archivo. En ese rango, las tasas de detección promedio entre los modelos probados cayeron al 53.3%, frente a un 67.3% en el mismo código malicioso sin los comentarios engañosos añadidos. Sin embargo, cuando los comentarios se volvieron demasiado numerosos, la táctica a menudo se volvió contra los atacantes. En proporciones superiores al 25% del archivo, la detección aumentó al 97.9%, y por encima del 50% alcanzó el 98.9%, lo que sugiere que muchos modelos interpretaron la repetición excesiva como una señal de fraude.

Variabilidad entre modelos de IA

Los resultados también mostraron una resistencia desigual entre los sistemas. Un modelo no líder en innovación vio su tasa de detección caer del 90% al 67% con solo 20 comentarios insertados. Por el contrario, varios modelos avanzados fueron resistentes a la manipulación de bajo volumen y, en algunos casos, aumentaron la probabilidad de marcar el código malicioso al incrementarse el volumen de comentarios.

Ataque con inyección de código SQL a sitio web

Algunos modelos mostraron sesgos lingüísticos, tratando comentarios en ruso, chino o árabe como señales de mayor riesgo, mientras que otros parecían más confiados con comentarios en estonio. En volúmenes altos, un modelo no líder aumentó la detección de código malicioso en 14 puntos porcentuales cuando los comentarios estaban escritos en ruso.

El tamaño del archivo como factor clave

El estudio también reveló que el tamaño del archivo influyó significativamente en la capacidad de detección. Para archivos de Workers menores a 500 KB, la tasa de detección fue cercana al 100%. Sin embargo, para archivos mayores a 3 MB, la detección cayó entre un 12% y un 18%. Esto ocurrió cuando la lógica maliciosa estaba oculta dentro de grandes paquetes de código legítimo, como bibliotecas de React SDK o TON.

Cloudflare describió este fenómeno como una debilidad estructural, más que lingüística. La implicación es clara: los atacantes no necesitan convencer a un revisor de IA de que un archivo es seguro; pueden simplemente ahogar la señal maliciosa en un exceso de material benigno.

Consecuencias en pipelines automatizados

Algunos modelos avanzados sufrieron un «colapso de formato» bajo volúmenes extremos de comentarios, devolviendo salidas ilegibles o negativas en lugar de un veredicto útil sobre si el código era malicioso o benigno. En un entorno de pipeline automatizado, este tipo de fallo podría evitar que se desencadenen acciones de bloqueo.

Estos hallazgos subrayan los riesgos de depender de modelos de IA optimizados para costos en flujos de trabajo de seguridad automatizados. Además, sugieren que los resultados defensivos pueden variar significativamente dependiendo de cómo un modelo evalúe el lenguaje natural frente al código ejecutable.

Nota: Si el artículo original contiene embeds específicos (como videos o imágenes), por favor indícalo para que pueda incluirlos exactamente como aparecen en el contenido original. Actualmente, no he identificado ningún bloque de iframe, imagen o embed en el texto proporcionado.

mayo 4, 2026 0 comments

Tecnología

Gestión de Riesgos IA: Descubre y Protege tu Entorno

by Editor de Tecnologia marzo 18, 2026

written by Editor de Tecnologia

XM Cyber ha ampliado su plataforma de gestión continua de exposición de amenazas (CTEM) con nuevas funcionalidades para la gestión de exposición a la inteligencia artificial, cubriendo ahora la IA sombra, la infraestructura de agentes y los servicios de IA en la nube gestionados.

La actualización incorpora capacidades de descubrimiento e inventario para el uso de la IA y la infraestructura relacionada, y extiende el análisis de rutas de ataque para incluir los recursos de IA y las configuraciones erróneas asociadas en entornos híbridos.

IA sombra

Un elemento central de este lanzamiento es la visibilidad del uso no autorizado de servicios de IA. XM Cyber afirma que puede identificar el uso de herramientas de IA en navegadores y aplicaciones instaladas, así como en servidores de Protocolo de Contexto de Modelo (MCP).

La función de descubrimiento abarca servicios de IA públicos como OpenAI, Claude, Cursor y Gemini. El objetivo es ayudar a los equipos de seguridad a identificar dónde aparecen las herramientas de IA en el entorno y si el personal podría estar compartiendo datos de la empresa con servicios fuera de los controles aprobados.

El sistema también puede señalar recursos de IA configurados con herramientas de exfiltración de datos como curl, wget y netcat. Comprueba los privilegios riesgosos, incluido el acceso sudo y la presencia de intérpretes de shell, lo que puede aumentar el impacto de un host comprometido.

Inventario de MCP

El lanzamiento añade un inventario para los servidores MCP, creando un catálogo automático de servidores MCP configurados para ayudar a rastrear las implementaciones de IA agentivas.

Los servidores MCP pueden ubicarse junto a otros componentes en el desarrollo y las operaciones de la IA, incluidos los integraciones de herramientas y los conectores de datos. A medida que las implementaciones de IA se extienden por toda la TI central, los equipos de ingeniería y las funciones empresariales, el inventario de activos se ha convertido en un foco creciente para los equipos de seguridad.

Servicios de IA en la nube

La plataforma ahora cubre los servicios de IA en la nube gestionados, incluidos AWS Bedrock, Google Cloud Vertex AI y Microsoft Azure OpenAI, ampliando la visibilidad a los recursos de desarrollo y formación de IA alojados en la nube.

Los servicios de IA gestionados suelen regirse a través de la gestión de identidades y accesos, las políticas basadas en recursos y los permisos específicos del servicio. Los equipos de seguridad han destacado la dificultad de mapear estos controles junto con la infraestructura en la nube tradicional y los sistemas locales.

Mapeo de rutas de ataque

XM Cyber está ampliando su Análisis de Gráfico de Ataque para incorporar las exposiciones de la IA y los servidores MCP en el mapeo de rutas de ataque. La plataforma está diseñada para mostrar cómo las exposiciones que involucran a los recursos de IA pueden encadenarse con otras debilidades en un entorno híbrido.

El análisis de rutas de ataque es un enfoque común en la gestión de exposición, en el que los proveedores modelan las rutas desde un punto de apoyo inicial hasta los sistemas de alto valor. XM Cyber posiciona la actualización como una forma de incluir la infraestructura de IA en el mismo modelo que las organizaciones utilizan para los entornos en la nube y locales.

XM Cyber afirma que este enfoque puede resaltar las rutas desde las exposiciones orientadas a Internet hasta los modelos de IA en la nube y, a continuación, hasta los almacenes de datos internos y los sistemas operativos. El objetivo es una visión consolidada del riesgo en todo el entorno, en lugar de herramientas separadas para la seguridad de la IA.

Análisis de credenciales

La actualización también introduce la detección de exposición de credenciales centrada en la configuración relacionada con la IA. XM Cyber afirma que analiza las configuraciones de MCP, las variables de entorno y los archivos de instrucciones en busca de claves API y tokens codificados.

Los equipos de seguridad siempre han considerado las credenciales incrustadas como de alto riesgo porque pueden otorgar acceso directo a los servicios sin autenticación interactiva. Los proyectos de IA pueden aumentar ese riesgo debido al rápido prototipado, el uso de herramientas de terceros y la configuración distribuida en los repositorios de código y las canalizaciones de implementación.

Gobernanza y cumplimiento

XM Cyber está añadiendo funciones de gobernanza que mapean las implementaciones de IA con los marcos regulatorios y de riesgo, incluido el Acta de IA de la UE y el Marco de Gestión de Riesgos de la IA del NIST.

La plataforma también puede detectar la desviación de la configuración en las definiciones de los servidores de IA entre los análisis para identificar los cambios no autorizados que alteran la postura de seguridad de la infraestructura de IA.

Como parte de la actualización, XM Cyber afirma que también valida continuamente si la infraestructura de IA se alinea con las políticas de seguridad de la organización.

Enfoque en la investigación

El lanzamiento se basa en la investigación del Equipo de Investigación de XM Cyber sobre vulnerabilidades y configuraciones erróneas en los servicios de desarrollo de IA en la nube, incluidos AWS Bedrock, Google Cloud Vertex AI y Azure OpenAI.

XM Cyber afirma que sus investigadores mapearon los permisos y las políticas basadas en recursos que, si no se gestionan correctamente, pueden permitir el acceso no autorizado a los modelos patentados y a los datos de formación confidenciales. La empresa afirma que está incorporando estos hallazgos a su Análisis de Gráfico de Ataque como parte de su marco CTEM más amplio.

«La rápida adopción de la IA ha creado un dilema para los líderes de seguridad: innovar a gran velocidad o mantener los controles necesarios para seguir siendo seguros. Nuestra nueva funcionalidad elimina esta fricción al permitir que los equipos de seguridad identifiquen y remedien las exposiciones relacionadas con la IA antes de que los atacantes puedan explotarlas», dijo Boaz Gorodissky, CTO y cofundador de XM Cyber.

«Nuestra plataforma ahora identifica las exposiciones de la IA como parte de una superficie de ataque integrada y puede mapear cómo se encadenan con otras exposiciones para crear rutas de ataque. Nuestros clientes creen que estas capacidades son fundamentales para su capacidad de adoptar la IA de forma segura, y estamos entusiasmados de ofrecer una funcionalidad tan crítica para el negocio», dijo Gorodissky.

XM Cyber, propiedad de Schwarz Group desde 2021, afirma que las nuevas funciones de gestión de exposición a la IA forman parte de su expansión continua de la cobertura CTEM en entornos en la nube y locales.

marzo 18, 2026 0 comments

Tecnología

ChatGPT: Nueva seguridad contra ataques e inyección de prompts

by Editor de Tecnologia febrero 17, 2026

written by Editor de Tecnologia

Los chatbots de inteligencia artificial como ChatGPT se han convertido en una herramienta indispensable para muchos, tanto en tareas profesionales como personales. Sin embargo, compartir datos sensibles o utilizar funciones conectadas puede aumentar los riesgos para la seguridad de la información. Para proteger a sus usuarios, OpenAI ha introducido dos nuevas funciones de seguridad: las etiquetas de Riesgo Elevado y el Modo Bloqueo.

Las etiquetas alertarán a los usuarios cuando una función conectada a la web pueda exponer más datos, mientras que el Modo Bloqueo limitará la forma en que ChatGPT se conecta a sistemas externos. La compañía afirma que estas funciones están diseñadas para proporcionar a los usuarios alertas más claras y un mayor control sobre su información, al tiempo que se reduce el riesgo de ataques de inyección de prompts. “A medida que los sistemas de IA asumen tareas más complejas, especialmente aquellas que involucran la web y aplicaciones conectadas, las implicaciones de seguridad cambian. Un riesgo emergente se ha vuelto especialmente importante: la inyección de prompts”, explicó la empresa en su blog oficial. “Estamos introduciendo dos nuevas protecciones diseñadas para ayudar a los usuarios y organizaciones a mitigar los ataques de inyección de prompts, con una mayor visibilidad del riesgo y controles más sólidos.”

¿Cuál es la amenaza de la inyección de prompts?

La inyección de prompts es una técnica en la que los hackers ocultan instrucciones maliciosas dentro de páginas web o archivos para engañar a un sistema de IA y que revele información confidencial o realice acciones no deseadas. Con millones de personas en todo el mundo utilizando chatbots de IA como ChatGPT para tareas como leer documentos, navegar por la web o conectarse a otras aplicaciones, los riesgos asociados a estas tácticas son cada vez mayores.

Las nuevas herramientas de OpenAI en ChatGPT tienen como objetivo proteger a los usuarios de estas amenazas.

¿Qué es el Modo Bloqueo en ChatGPT?

OpenAI ha introducido el Modo Bloqueo como una configuración opcional que restringe estrictamente la forma en que ChatGPT interactúa con sistemas externos. Al activarlo, se limitarán o desactivarán ciertas herramientas y conexiones, como la navegación web en vivo o las integraciones que envían y reciben información de servicios externos. Al reducir estas interacciones externas, OpenAI busca disminuir la “superficie de ataque” que los hackers podrían explotar.

Según la compañía, el Modo Bloqueo no es necesario para la mayoría de los usuarios habituales. Está diseñado principalmente para personas que manejan información altamente sensible o que creen que pueden estar en un riesgo elevado, como periodistas, ejecutivos, investigadores o profesionales de la seguridad.

¿Qué son las etiquetas de Riesgo Elevado en ChatGPT?

Junto con el Modo Bloqueo, OpenAI también está introduciendo las etiquetas de Riesgo Elevado dentro de ChatGPT. Estas etiquetas aparecerán junto a las herramientas o funciones que implican una mayor exposición al contenido o sistemas externos.

Por ejemplo, si una función se conecta a contenido externo o proporciona un acceso más amplio al sistema, ChatGPT mostrará una alerta visible sobre los riesgos potenciales. Esto ayudará a los usuarios a decidir si continuar o mantener la privacidad. OpenAI señala que muchas de las herramientas más potentes de ChatGPT dependen de conexiones externas, ya sea navegando por la web, analizando archivos cargados o interactuando con aplicaciones de terceros. Estas capacidades hacen que la IA sea más útil, pero también pueden introducir vulnerabilidades si se utilizan de forma incorrecta. Al ofrecer advertencias más claras y un modo de seguridad más estricto, la compañía pretende reducir estos riesgos sin limitar la experiencia de la mayoría de los usuarios.

– Fin

Publicado Por:

Divya Bhati

Publicado El:

17 de febrero de 2026

febrero 17, 2026 0 comments