Tag:

AI Models

Tecnología

Google advierte sobre el aumento de ciberataques con IA

by Editor de Tecnologia
written by Editor de Tecnologia

Google ha alertado que los ciberataques potenciados por inteligencia artificial ya son una realidad, subrayando la urgencia de reforzar las medidas de seguridad digital ante estas nuevas amenazas.

En una acción reciente, la compañía logró neutralizar a un grupo de hackers que utilizaban herramientas de IA para intentar aprovechar una vulnerabilidad desconocida en las defensas digitales de una empresa, según detalla BreakingNews.ie.

Este incidente confirma la advertencia de Google sobre la llegada de ataques cibernéticos impulsados por IA, un punto ya destacado por SecurityBrief Asia.

0 comments
0 FacebookTwitterPinterestLinkedinEmail
Tecnología

Adobe Firefly: Modelos Personalizados y Nuevas Funciones IA

by Editor de Tecnologia
written by Editor de Tecnologia

Adobe ha lanzado en versión beta pública sus Modelos Personalizados dentro de su plataforma de IA creativa Firefly, ofreciendo a los usuarios la posibilidad de entrenar la generación de imágenes con su propio estilo visual.

Esta función permite a los creadores subir sus propias imágenes para que Firefly construya un modelo reutilizable basado en una estética, diseño de personajes o apariencia fotográfica elegida. La beta está dirigida a la ideación en ilustración, trabajo de personajes y fotografía, ayudando a los usuarios a mantener una identidad visual consistente en múltiples resultados.

Este movimiento amplía el esfuerzo de Adobe por convertir a Firefly en un espacio de trabajo central para la producción de imágenes y videos asistida por IA. Firefly ahora también ofrece acceso a más de 30 modelos de IA de Adobe y otros proveedores, incluyendo Google, OpenAI, Runway y Kling.

Entre los modelos recién disponibles se encuentran Nano Banana 2 y Veo 3.1 de Google, Gen-4.5 de Runway, Firefly Image Model 5 de Adobe y Kling 2.5 Turbo. Adobe afirma que los clientes de Firefly pueden utilizar generaciones ilimitadas de imágenes y videos en una amplia gama de estos modelos.

Control de Estilo

Adobe posiciona los Modelos Personalizados como una forma para que los profesionales creativos y las marcas mantengan la consistencia estilística al producir grandes volúmenes de contenido. El sistema está diseñado para preservar elementos como la paleta de colores, la iluminación, el grosor de las líneas y las características recurrentes de los personajes, permitiendo a los equipos generar nuevo material sin restablecer la línea de base visual cada vez.

Los modelos entrenados son privados por defecto, un aspecto que probablemente será importante para las marcas y agencias preocupadas por el control de los activos propios y el material de las campañas internas.

En lugar de pedir a los usuarios que cambien entre diferentes servicios, Adobe está intentando combinar la elección del modelo, la generación y la edición en un único entorno. En la práctica, los usuarios pueden crear una imagen o un video con un modelo, comparar los resultados con otro y continuar editando dentro de las propias herramientas de Adobe.

Herramientas de Edición

Adobe también introdujo herramientas adicionales de imagen y video en Firefly. Una de ellas, llamada Quick Cut, está diseñada para convertir metraje sin editar en una secuencia editada inicial en cuestión de minutos.

Las opciones de edición de imágenes ampliadas permitirán a los usuarios añadir u eliminar objetos, extender escenas y realizar ajustes más detallados a los elementos visuales generados. Estos cambios muestran el intento de Adobe de posicionar a Firefly no solo como un generador basado en indicaciones, sino como un flujo de trabajo de producción más amplio para la creación y el refinamiento de borradores.

Esto refleja un cambio más amplio en el mercado de la IA generativa, donde los grupos de software van más allá de las indicaciones de texto independientes y las salidas de imagen única. Los proveedores están intentando cada vez más mantener a los usuarios dentro de un mismo sistema, desde el desarrollo del concepto hasta la edición, la revisión y la entrega.

Impulso Conversacional

Adobe también está ampliando el acceso a Project Moonlight, un producto en beta privada que utiliza una interfaz conversacional en todas las aplicaciones de Adobe. El sistema está diseñado para permitir a los usuarios describir lo que quieren en un chat y luego trabajar en tareas en aplicaciones como Photoshop, Express y Acrobat.

Project Moonlight se mostró por primera vez anteriormente y sigue en beta privada, pero su expansión subraya la visión de Adobe de que las interfaces conversacionales se convertirán en una forma más común de gestionar el software creativo. En lugar de introducir una indicación a la vez, los usuarios dirigirían el software a través de un intercambio continuo, al tiempo que podrían ajustar y refinar el trabajo.

Adobe describió a Firefly como un «estudio de IA creativa todo en uno» que reúne modelos externos y las propias herramientas de edición de Adobe. La compañía apuesta a que los clientes preferirán un único flujo de trabajo donde la generación y la postproducción vayan de la mano.

La competencia en este segmento se ha intensificado a medida que las empresas de imágenes y videos de IA buscan posiciones más sólidas en el trabajo creativo profesional. La respuesta de Adobe ha sido construir Firefly no solo en torno a sus propios modelos, sino también en torno al acceso a sistemas de terceros, al tiempo que utiliza su software de edición establecido como un punto de diferenciación.

El último lanzamiento también sugiere que Adobe quiere abordar una de las preocupaciones más prácticas para los usuarios profesionales de la IA generativa: cómo hacer que los resultados sean repetibles. Para muchos equipos de diseño, la consistencia en las campañas, los formatos y los canales puede ser tan importante como la novedad. Un modelo entrenado con activos internos ofrece una vía para ello, especialmente para trabajos centrados en personajes, ilustraciones de marca y estilos fotográficos recurrentes.

Adobe afirma que el enfoque de entrenamiento personalizado permite a los usuarios convertir sus propias bibliotecas de imágenes en una base reutilizable para futuros informes y proyectos, convirtiendo el modelo resultante en parte de su flujo de trabajo habitual.

0 comments
0 FacebookTwitterPinterestLinkedinEmail
Tecnología

Gestión de Riesgos IA: Descubre y Protege tu Entorno

by Editor de Tecnologia
written by Editor de Tecnologia

XM Cyber ha ampliado su plataforma de gestión continua de exposición de amenazas (CTEM) con nuevas funcionalidades para la gestión de exposición a la inteligencia artificial, cubriendo ahora la IA sombra, la infraestructura de agentes y los servicios de IA en la nube gestionados.

La actualización incorpora capacidades de descubrimiento e inventario para el uso de la IA y la infraestructura relacionada, y extiende el análisis de rutas de ataque para incluir los recursos de IA y las configuraciones erróneas asociadas en entornos híbridos.

IA sombra

Un elemento central de este lanzamiento es la visibilidad del uso no autorizado de servicios de IA. XM Cyber afirma que puede identificar el uso de herramientas de IA en navegadores y aplicaciones instaladas, así como en servidores de Protocolo de Contexto de Modelo (MCP).

La función de descubrimiento abarca servicios de IA públicos como OpenAI, Claude, Cursor y Gemini. El objetivo es ayudar a los equipos de seguridad a identificar dónde aparecen las herramientas de IA en el entorno y si el personal podría estar compartiendo datos de la empresa con servicios fuera de los controles aprobados.

El sistema también puede señalar recursos de IA configurados con herramientas de exfiltración de datos como curl, wget y netcat. Comprueba los privilegios riesgosos, incluido el acceso sudo y la presencia de intérpretes de shell, lo que puede aumentar el impacto de un host comprometido.

Inventario de MCP

El lanzamiento añade un inventario para los servidores MCP, creando un catálogo automático de servidores MCP configurados para ayudar a rastrear las implementaciones de IA agentivas.

Los servidores MCP pueden ubicarse junto a otros componentes en el desarrollo y las operaciones de la IA, incluidos los integraciones de herramientas y los conectores de datos. A medida que las implementaciones de IA se extienden por toda la TI central, los equipos de ingeniería y las funciones empresariales, el inventario de activos se ha convertido en un foco creciente para los equipos de seguridad.

Servicios de IA en la nube

La plataforma ahora cubre los servicios de IA en la nube gestionados, incluidos AWS Bedrock, Google Cloud Vertex AI y Microsoft Azure OpenAI, ampliando la visibilidad a los recursos de desarrollo y formación de IA alojados en la nube.

Los servicios de IA gestionados suelen regirse a través de la gestión de identidades y accesos, las políticas basadas en recursos y los permisos específicos del servicio. Los equipos de seguridad han destacado la dificultad de mapear estos controles junto con la infraestructura en la nube tradicional y los sistemas locales.

Mapeo de rutas de ataque

XM Cyber está ampliando su Análisis de Gráfico de Ataque para incorporar las exposiciones de la IA y los servidores MCP en el mapeo de rutas de ataque. La plataforma está diseñada para mostrar cómo las exposiciones que involucran a los recursos de IA pueden encadenarse con otras debilidades en un entorno híbrido.

El análisis de rutas de ataque es un enfoque común en la gestión de exposición, en el que los proveedores modelan las rutas desde un punto de apoyo inicial hasta los sistemas de alto valor. XM Cyber posiciona la actualización como una forma de incluir la infraestructura de IA en el mismo modelo que las organizaciones utilizan para los entornos en la nube y locales.

XM Cyber afirma que este enfoque puede resaltar las rutas desde las exposiciones orientadas a Internet hasta los modelos de IA en la nube y, a continuación, hasta los almacenes de datos internos y los sistemas operativos. El objetivo es una visión consolidada del riesgo en todo el entorno, en lugar de herramientas separadas para la seguridad de la IA.

Análisis de credenciales

La actualización también introduce la detección de exposición de credenciales centrada en la configuración relacionada con la IA. XM Cyber afirma que analiza las configuraciones de MCP, las variables de entorno y los archivos de instrucciones en busca de claves API y tokens codificados.

Los equipos de seguridad siempre han considerado las credenciales incrustadas como de alto riesgo porque pueden otorgar acceso directo a los servicios sin autenticación interactiva. Los proyectos de IA pueden aumentar ese riesgo debido al rápido prototipado, el uso de herramientas de terceros y la configuración distribuida en los repositorios de código y las canalizaciones de implementación.

Gobernanza y cumplimiento

XM Cyber está añadiendo funciones de gobernanza que mapean las implementaciones de IA con los marcos regulatorios y de riesgo, incluido el Acta de IA de la UE y el Marco de Gestión de Riesgos de la IA del NIST.

La plataforma también puede detectar la desviación de la configuración en las definiciones de los servidores de IA entre los análisis para identificar los cambios no autorizados que alteran la postura de seguridad de la infraestructura de IA.

Como parte de la actualización, XM Cyber afirma que también valida continuamente si la infraestructura de IA se alinea con las políticas de seguridad de la organización.

Enfoque en la investigación

El lanzamiento se basa en la investigación del Equipo de Investigación de XM Cyber sobre vulnerabilidades y configuraciones erróneas en los servicios de desarrollo de IA en la nube, incluidos AWS Bedrock, Google Cloud Vertex AI y Azure OpenAI.

XM Cyber afirma que sus investigadores mapearon los permisos y las políticas basadas en recursos que, si no se gestionan correctamente, pueden permitir el acceso no autorizado a los modelos patentados y a los datos de formación confidenciales. La empresa afirma que está incorporando estos hallazgos a su Análisis de Gráfico de Ataque como parte de su marco CTEM más amplio.

«La rápida adopción de la IA ha creado un dilema para los líderes de seguridad: innovar a gran velocidad o mantener los controles necesarios para seguir siendo seguros. Nuestra nueva funcionalidad elimina esta fricción al permitir que los equipos de seguridad identifiquen y remedien las exposiciones relacionadas con la IA antes de que los atacantes puedan explotarlas», dijo Boaz Gorodissky, CTO y cofundador de XM Cyber.

«Nuestra plataforma ahora identifica las exposiciones de la IA como parte de una superficie de ataque integrada y puede mapear cómo se encadenan con otras exposiciones para crear rutas de ataque. Nuestros clientes creen que estas capacidades son fundamentales para su capacidad de adoptar la IA de forma segura, y estamos entusiasmados de ofrecer una funcionalidad tan crítica para el negocio», dijo Gorodissky.

XM Cyber, propiedad de Schwarz Group desde 2021, afirma que las nuevas funciones de gestión de exposición a la IA forman parte de su expansión continua de la cobertura CTEM en entornos en la nube y locales.

0 comments
0 FacebookTwitterPinterestLinkedinEmail