Tag:

deepfakes

Tecnología

Google advierte sobre el aumento de ciberataques con IA

by Editor de Tecnologia
written by Editor de Tecnologia

Google ha alertado que los ciberataques potenciados por inteligencia artificial ya son una realidad, subrayando la urgencia de reforzar las medidas de seguridad digital ante estas nuevas amenazas.

En una acción reciente, la compañía logró neutralizar a un grupo de hackers que utilizaban herramientas de IA para intentar aprovechar una vulnerabilidad desconocida en las defensas digitales de una empresa, según detalla BreakingNews.ie.

Este incidente confirma la advertencia de Google sobre la llegada de ataques cibernéticos impulsados por IA, un punto ya destacado por SecurityBrief Asia.

0 comments
0 FacebookTwitterPinterestLinkedinEmail
Negocio

X: Investigación en Francia por deepfakes y contenido sexual

by Editora de Negocio
written by Editora de Negocio

Las autoridades francesas investigan a X, la plataforma de redes sociales propiedad de Elon Musk, por presuntas interferencias en la política francesa, así como por la difusión de negaciones del Holocausto y la creación de imágenes deepfake de contenido sexual. La investigación se extiende también a la posible complicidad en la posesión y distribución de imágenes de pornografía infantil y la violación de derechos personales.

Según Le Monde, los fiscales interpretan varios mensajes publicados por Musk en la cima de la controversia como “incitaciones” a generar imágenes no consentidas. El medio reporta que el multimillonario expresó satisfacción, utilizando numerosos emojis, sobre las capacidades de “desvestir” de su motor de inteligencia artificial, incluso compartiendo una imagen de sí mismo generada por su chatbot en bikini.

El chatbot en cuestión, Grok, tiene su propia cuenta en la red social X, permitiendo a los usuarios interactuar con él. Durante un período, los usuarios podían etiquetar al bot en publicaciones para solicitar la generación y edición de imágenes, recibiendo la imagen resultante como respuesta. Muchos usuarios enviaron a Grok fotografías de mujeres o las etiquetaron en publicaciones, solicitando indicaciones como “ponerla en bikini” o “quitarle la ropa”.

El Centro para Combatir el Odio Digital (CCDH), una organización sin fines de lucro, estimó que Grok generó aproximadamente tres millones de imágenes sexualizadas –principalmente de mujeres, aunque también 23.000 que parecían representar a menores– en tan solo 11 días, a finales de enero.

Las autoridades francesas han citado a Musk a una “entrevista voluntaria” y registraron las oficinas locales de su red social el mes pasado, lo que Musk calificó como un “ataque político”. Un abogado de X en Francia no estaba disponible para comentar al momento de la redacción de esta nota.

En respuesta a la cobertura de la agencia AFP sobre el tema, Musk criticó a los fiscales franceses en X, en francés, calificándolos de “retrasados mentales”.

El caso ha atraído la atención internacional, con investigaciones similares abiertas en Gran Bretaña y la Unión Europea sobre la creación de los deepfakes sexualizados. Las descargas diarias promedio de la aplicación Grok a nivel mundial aumentaron un 72% del 1 al 19 de enero en comparación con el mismo período de diciembre, según datos de la firma de inteligencia de mercado Sensor Tower.

0 comments
0 FacebookTwitterPinterestLinkedinEmail
Entretenimiento

McConaughey protege su voz e imagen con marcas AI

by Editora de Entretenimiento
written by Editora de Entretenimiento

Matthew McConaughey está tomando medidas drásticas para proteger su imagen y voz en la era de la inteligencia artificial. El actor, a través de su firma legal Yorn Levine, ha solicitado y obtenido marcas registradas que cubren su apariencia, voz e incluso breves clips de video, según informa Variety.

Esta estrategia legal busca prevenir el uso no autorizado de su imagen mediante la creación de “deepfakes”, imágenes, audios o videos generados por IA que simulan la apariencia y voz de una persona. “No sé qué dirá un tribunal al final, pero al menos tenemos que poner esto a prueba”, declaró Kevin Yorn, socio de la firma.

Específicamente, se han registrado marcas para un video de siete segundos de McConaughey en un porche y otro de tres segundos frente a un árbol de Navidad. También se ha protegido un audio donde el actor dice: “Just keep living, right? … I mean … what are we gonna do?”

La preocupación por los deepfakes no es infundada. Figuras como Taylor Swift, Tom Hanks y Oprah Winfrey ya han sido víctimas de su uso para crear falsas promociones de productos e incluso esquemas Ponzi.

Recientemente, Elon Musk también se vio envuelto en una controversia cuando su chatbot de IA, Grok (en la plataforma X, antes Twitter), fue utilizado para generar imágenes pornográficas falsas, incluyendo material que involucraba a mujeres y niños. Puedes encontrar más detalles sobre este incidente aquí.

“En un mundo donde todos están buscando soluciones al mal uso de la IA, ahora tenemos una herramienta para detener a alguien en seco o llevarlo ante un tribunal federal”, afirmó Jonathan Pollack, otro abogado de Yorn Levine.

Si bien McConaughey es pionero en obtener una marca registrada tan completa sobre sí mismo, otros artistas ya han protegido frases célebres, como Paris Hilton con “That’s hot” y Lizzo con ”100% that B****“.

Curiosamente, McConaughey no rechaza la tecnología de IA por completo. De hecho, ha invertido en ElevenLabs, una compañía de audio con IA, y está colaborando con ellos para crear versiones en español de su boletín Lyrics of Livin’ utilizando su propia voz.

0 comments
0 FacebookTwitterPinterestLinkedinEmail
Tecnología

Alerta: Estafa de Inversión con IA en WhatsApp

by Editor de Tecnologia
written by Editor de Tecnologia

Una nueva ola de estafas con “expertos financieros” impulsados por inteligencia artificial está inundando WhatsApp. Expertos en seguridad advierten sobre una evolución perjudicial del “Pig Butchering” (cerdo de engorde), donde los delincuentes atraen a las víctimas a grupos de criptomonedas falsos.

Han quedado atrás los tiempos de los mensajes fraudulentos torpes. Las empresas de ciberseguridad analizan que las bandas de estafadores ahora utilizan la IA generativa para crear chats impecables y convincentes. Su patrón es preciso: los usuarios son añadidos a grupos sin solicitarlo o contactados a través de mensajes aparentemente legítimos.

Una vez que la conversación está en marcha, entran en acción los bots de IA. Construyen confianza, simulan vínculos emocionales y desvían sutilmente el tema hacia las finanzas. Dentro de los grupos, los estafadores orquestan un espectáculo complejo. Un supuesto “analista estrella” ofrece consejos exclusivos, mientras que docenas de otros miembros –también bots– informan eufóricamente de ganancias.

Anzeige

Muchos usuarios de WhatsApp son arrastrados sin previo aviso a supuestos grupos de inversores, donde los bots de IA generan confianza y presionan para que realicen inversiones. Si desea mantener sus chats privados y bloquear contactos no deseados, un plan de cambio seguro puede ayudar. El paquete de inicio gratuito de Telegram explica paso a paso cómo configurar Telegram, ocultar su número y utilizar chats secretos, para que los curiosos y los grupos fraudulentos no tengan ninguna oportunidad. Descargar ahora el paquete de inicio de Telegram

Esta dinámica de grupo simulada crea presión psicológica (FOMO – Fear Of Missing Out, miedo a perderse algo). Los rendimientos prometidos supuestamente se basan en nuevos “algoritmos cuánticos de IA” con una precisión de predicción del mercado del 99 por ciento.

Las videollamadas Deepfake simulan autenticidad

Una evolución particularmente alarmante es el uso de deepfakes audiovisuales. Para disipar cualquier duda, los estafadores ahora ofrecen videollamadas.

Investigadores de seguridad informan: las víctimas ven en los chats a personas aparentemente reales, cuyos rostros y voces son generados en tiempo real por la IA. A menudo, se roban las identidades de figuras financieras conocidas y se enmascaran digitalmente.

También se utilizan clones de voz. Los mensajes de voz ya no suenan robóticos, sino humanos y empáticos. Esta tecnología elimina una característica de seguridad previa: la suposición de que un mensaje personal prueba la autenticidad.

BaFin y el FBI advierten sobre aplicaciones de trading dudosas

Las señales de advertencia de las autoridades se intensifican. La Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin), la autoridad reguladora financiera alemana, advierte nuevamente sobre negocios no autorizados que se promocionan principalmente a través de mensajería.

Los estafadores presionan a las víctimas para que transfieran dinero a plataformas de negociación de aspecto profesional que ellos mismos controlan. Los casos recientes muestran aplicaciones que imitan los nombres de instituciones establecidas o utilizan nombres ficticios como “AI Wealth”.

El FBI y las autoridades internacionales registran pérdidas drásticamente crecientes debido a estafas criptográficas iniciadas por IA. Enfatizan: los proveedores serios nunca contactan a los clientes sin ser solicitados en WhatsApp para ofrecer inversiones.

Por qué este esquema funciona tan bien ahora

La ola de estafas encuentra un terreno fértil. La combinación del interés en las criptomonedas y la exageración de la IA juega a favor de los estafadores. Muchos inversores con conocimientos técnicos no comprenden los detalles del “trading con IA”, lo que los hace vulnerables a promesas pseudocientíficas.

Las barreras de entrada para los estafadores han disminuido. Anteriormente, se necesitaban centros de llamadas con personas reales. Hoy en día, unos pocos estafadores pueden “atender” a miles de víctimas simultáneamente con modelos de lenguaje de IA. La escalabilidad de la estafa ha alcanzado una nueva dimensión.

Además, los estafadores aprovechan hábilmente momentos psicológicos: el deseo de una nueva situación financiera al comienzo del año y la disponibilidad emocional durante las fiestas.

Se avecina una carrera armamentista de algoritmos

Los expertos esperan que la distinción entre comunicación real y artificial sea aún más difícil en 2026. Es probable que los servicios de mensajería como WhatsApp refuercen sus medidas de seguridad, por ejemplo, mediante sistemas de detección basados en IA para patrones de chat fraudulentos.

Para los consumidores, el principio “Zero Trust” (confianza cero) es más importante que nunca cuando se trata de contactos desconocidos. La verificación biométrica y las firmas digitales podrían garantizar la autenticidad de los interlocutores en el futuro. Hasta entonces, el escepticismo sigue siendo la mejor protección: cualquiera que prometa riqueza a través de algoritmos de IA en WhatsApp es, con toda seguridad, un estafador.

Anzeige

PD: Si desea protegerse contra grupos falsos, deepfakes y ofertas de inversión no solicitadas, un mensajero seguro es un primer paso sencillo. El informe PDF gratuito muestra en pocos minutos cómo cambiar a Telegram, ocultar su número, activar chats secretos y configurar la configuración de privacidad más importante. Ideal para cualquiera que quiera que la comunicación de WhatsApp sea mucho más privada. Solicitar ahora el paquete de inicio de Telegram

0 comments
0 FacebookTwitterPinterestLinkedinEmail
Tecnología

Deepfakes IA: Abusos con imágenes de mujeres en chatbots

by Editor de Tecnologia
written by Editor de Tecnologia

Algunos usuarios de populares chatbots están generando deepfakes en bikini utilizando fotografías de mujeres completamente vestidas como material de origen. La mayoría de estas imágenes falsas parecen generarse sin el consentimiento de las mujeres en las fotos. Algunos de estos mismos usuarios también están ofreciendo consejos a otros sobre cómo utilizar las herramientas de IA generativa para desnudar a mujeres en fotografías y hacer que parezca que visten bikinis.

En un hilo de Reddit ahora eliminado, titulado “gemini nsfw image generation is so easy” (generación de imágenes NSFW de Gemini es tan fácil), los usuarios intercambiaron consejos sobre cómo conseguir que Gemini, el modelo de IA generativa de Google, creara imágenes de mujeres con ropa reveladora. Muchas de las imágenes del hilo fueron creadas completamente por IA, pero una solicitud destacó especialmente.

Un usuario publicó una foto de una mujer con un sari indio, pidiendo a alguien que le “quitara” la ropa y le “pusiera un bikini” en su lugar. Otra persona respondió con una imagen deepfake para cumplir con la solicitud. Después de que WIRED notificara a Reddit sobre estas publicaciones y solicitara un comentario a la empresa, el equipo de seguridad de Reddit eliminó la solicitud y el deepfake de IA.

“Las reglas generales de Reddit prohíben los medios íntimos no consensuados, incluyendo el comportamiento en cuestión”, declaró un portavoz. El subreddit donde se produjo esta discusión, r/ChatGPTJailbreak, tenía más de 200.000 seguidores antes de que Reddit lo prohibiera bajo la regla de “don’t break the site” (no rompas el sitio).

A medida que proliferan las herramientas de IA generativa que facilitan la creación de imágenes realistas pero falsas, los usuarios de estas herramientas han continuado acosando a mujeres con imágenes deepfake no consensuadas. Millones de personas han visitado sitios web “nudificadores” perjudiciales, diseñados para que los usuarios suban fotos reales de personas y soliciten que sean desnudadas utilizando IA generativa.

Con xAI’s Grok como una notable excepción, la mayoría de los chatbots convencionales no suelen permitir la generación de imágenes NSFW en sus resultados de IA. Estos bots, incluyendo Google’s Gemini y OpenAI’s ChatGPT, también están equipados con mecanismos de seguridad que intentan bloquear generaciones dañinas.

En noviembre, Google lanzó Nano Banana Pro, un nuevo modelo de imagen que destaca en la modificación de fotografías existentes y la generación de imágenes hiperrealistas de personas. OpenAI respondió la semana pasada con su propio modelo de imagen actualizado, ChatGPT Images.

A medida que estas herramientas mejoran, las representaciones podrían volverse más realistas cuando los usuarios logren eludir las medidas de seguridad.

En otro hilo de Reddit sobre la generación de imágenes NSFW, un usuario solicitó recomendaciones sobre cómo evitar las medidas de seguridad al ajustar la ropa de alguien para que la falda del sujeto parezca más ajustada. En las pruebas limitadas realizadas por WIRED para confirmar que estas técnicas funcionaban en Gemini y ChatGPT, pudimos transformar imágenes de mujeres completamente vestidas en deepfakes en bikini utilizando indicaciones básicas escritas en inglés sencillo.

0 comments
0 FacebookTwitterPinterestLinkedinEmail