Un regalo navideño ha desatado semanas de indignación a nivel mundial. El 24 de diciembre de 2025, X dotó a su herramienta de inteligencia artificial, Grok, de la capacidad de responder a solicitudes de usuarios para eliminar digitalmente la ropa de imágenes de personas, incluyendo menores.
En los días siguientes, la plataforma se vio inundada de peticiones para desnudar a celebridades y colocar a políticos en bikinis.
Sin embargo, la capacidad de Grok para generar material de abuso sexual infantil fue lo que provocó la mayor reacción negativa.
X, bajo la dirección de Elon Musk, anunció diversas modificaciones a Grok, pero algunos de estos cambios solo sirvieron para enfurecer aún más a los críticos.
También se dirigió la ira hacia el Gobierno irlandés, con la oposición acusándolo de no hacer lo suficiente para combatir el problema.
La respuesta de X
En las primeras etapas de la controversia, cuando el mundo comenzó a comprender el uso que se le estaba dando a la función Grok, el Sr. Musk respondió a algunos críticos en línea con emojis de llanto y risa.
Con el tiempo, X pareció tomarse las cosas más en serio, publicando una actualización de su equipo de seguridad el 4 de enero que afirmaba: «Tomamos medidas contra el contenido ilegal en X, incluido el Material de Abuso Sexual Infantil (CSAM), eliminándolo, suspendiendo permanentemente las cuentas y colaborando con los gobiernos locales y las fuerzas del orden según sea necesario».
El 9 de enero, X limitó el acceso a las funciones de generación y edición de imágenes en Grok únicamente a los suscriptores de pago.
Los usuarios de la plataforma que habían estado solicitando a Grok que alterara imágenes comenzaron a recibir respuestas que indicaban: «La generación y edición de imágenes están actualmente limitadas a los suscriptores de pago», seguidas de instrucciones sobre cómo suscribirse.
La medida fue recibida con indignación por parte de grupos de campaña, que acusaron a X de intentar monetizar la capacidad de generar material abusivo.
El Defensor del Niño, Dr. Niall Muldoon, declaró en ese momento que los cambios en la herramienta de IA Grok no marcaban una diferencia significativa.
«Lo que está diciendo es que tiene la oportunidad de abusar, pero tiene que pagar por ello», dijo el Dr. Muldoon.
La indignación mundial continuó y el jueves, X anunció sus últimos pasos para abordar el problema.
«Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis», dijo la compañía en un comunicado.
X añadió que «bloquearía geográficamente» la capacidad de los usuarios para generar imágenes de personas reales en bikinis, ropa interior y atuendos similares «en aquellas jurisdicciones donde sea ilegal».
Las últimas palabras de esa declaración provocaron confusión y molestia entre los políticos irlandeses.
¿Qué es exactamente legal e ilegal en Irlanda?
En Irlanda, es ilegal generar imágenes de abuso sexual infantil.
En cuanto a las imágenes sexuales de adultos, no es ilegal generarlas, pero sí es ilegal compartirlas.
Por lo tanto, cuando X dice que se bloqueará la generación de imágenes en «jurisdicciones donde sea ilegal», técnicamente no cubre la generación de imágenes de adultos.
Algunos describieron la redacción como una «cláusula de escape» para X, algo que le daba a la compañía «margen de maniobra» para evitar una prohibición total de las funciones.
Después de que X emitiera su declaración, la Ministra de Estado responsable de la IA, Niamh Smyth, se reunió con el Fiscal General para discutir la situación legal.
Después de la reunión, dijo que estaba satisfecha de que Irlanda cuenta con leyes sólidas para proteger a sus ciudadanos.
Ayer, la Sra. Smyth se reunió con representantes de X. Antes de la reunión, dijo que le diría a la compañía que las funciones de «desnudez» de Grok están prohibidas y son ilegales según la ley irlandesa.
Tras la discusión, dijo que «persisten las preocupaciones» con respecto a la herramienta de IA Grok.
La Sra. Smyth acogió con satisfacción las «acciones correctivas» tomadas por la plataforma, después de que X informara a la ministra de que Grok ha sido «desactivado para eliminar o reducir la ropa de las personas en todo el mundo».
Si bien puede haber cierta ambigüedad sobre cómo se relaciona el anuncio de X con la generación de imágenes de adultos, la creación de material de abuso sexual infantil es otra cuestión.
El miércoles, altos cargos de la Garda (policía irlandesa) informaron al Comité de Medios del Oireachtas (Parlamento irlandés) que están investigando 200 denuncias de sospechoso material de abuso sexual infantil generado por Grok.
En una declaración inicial por escrito al Comité, el Superintendente Jefe de Policía Barry Walsh de la Oficina Nacional de Ciberdelincuencia de la Garda escribió que el uso reciente de la IA para presentar a niños y adultos en estado de desnudez es «una flagrante falta de respeto a la dignidad personal y un abuso de la confianza social» que no puede ser tolerado.
Añadió que los informes de imágenes abusivas creadas por la IA se están tomando con la «máxima seriedad» y «cuando corresponda, estos delitos serán objeto de una investigación exhaustiva» con el objetivo de llevar a los responsables ante los tribunales.
Un representante de X no comparecerá ante el Comité de Medios del Oireachtas.
La compañía fue invitada a asistir a una audiencia el próximo mes, pero el viernes declinó la oferta, una medida que el Presidente del Comité, Alan Kelly, calificó de «escandalosa».
El regulador de medios, Coimisiún na Meán, celebró esta semana reuniones con An Garda Síochána y la Comisión Europea sobre el problema de Grok.
An Coimisiún también tiene previsto asistir a una reunión del Gobierno sobre el tema la próxima semana.
Presión sobre el Gobierno
El Gobierno ha sido criticado por la oposición por no hacer lo suficiente para abordar el problema.
Los críticos han señalado que la sede europea de X se encuentra en Fenian Street, en Dublín, a pocos pasos de los edificios gubernamentales, y sin embargo el asunto se está tratando a nivel europeo.
La regulación de la tecnología y las redes sociales suele ocurrir a nivel de la UE, pero algunos han acusado a Irlanda de no adoptar una postura nacional más firme.
El Presidente del Comité de Medios, Alan Kelly, sugirió esta semana que quizás Irlanda debería separarse de Europa en este asunto.
El Gobierno se ha apresurado a desestimar cualquier sugerencia de que esté adoptando un enfoque indulgente con X debido a la importancia de la industria tecnológica aquí, tanto desde el punto de vista del empleo como de los impuestos corporativos.
El Ministro de Comunicaciones y Medios, Patrick O’Donovan, dijo que se sintió ofendido por las afirmaciones de que la coalición no se estaba tomando el asunto en serio.
«Eso es una tontería, para ser honesto», dijo a RTÉ’s Today with David McCullagh ayer.
«Me ofende eso. No creo que nadie sentado en la mesa del gabinete quiera sugerir que existe una actitud laxa hacia el abuso infantil. Creo que eso es una tontería absoluta».
El Taoiseach (Primer Ministro), la Tánaiste (Viceprimera Ministra) y los ministros se han enfrentado a constantes preguntas de los periodistas sobre el problema de Grok durante las últimas dos semanas y se ha planteado repetidamente en el Dáil (Parlamento).
Sin duda, es un asunto que la coalición está ansiosa por abordar y poner fin de una vez por todas.
¿Pero es la nueva legislación la respuesta?
Cualquier ley que aborde específicamente este problema podría quedar obsoleta para cuando sea aprobada, dada la velocidad a la que avanza la IA.
Hoy el problema es con Grok, en unas pocas semanas podría ser un problema diferente en una plataforma diferente.
Una actualización navideña de una herramienta de IA condujo a un Año Nuevo de indignación y a un renovado debate sobre cómo los gobiernos aquí y en todo el mundo pueden regular una tecnología en rápida evolución.
