Malasia e Indonesia se han convertido en los primeros países en bloquear Grok, el chatbot de inteligencia artificial desarrollado por xAI de Elon Musk, después de que las autoridades declararan que se estaba utilizando indebidamente para generar imágenes sexualmente explícitas y no consentidas.
La medida se produce en un momento en que el regulador de medios del Reino Unido ha confirmado el lanzamiento de una investigación sobre la plataforma para determinar si ha infringido las leyes británicas.
Estas acciones reflejan la creciente preocupación a nivel mundial por las herramientas de inteligencia artificial generativa que pueden producir imágenes, sonido y texto realistas, mientras que las salvaguardias existentes no logran prevenir su abuso.
La Unión Europea, India y Francia también han expresado su inquietud con respecto a la plataforma.
El chatbot Grok, al que se accede a través de la plataforma de redes sociales X de Musk, ha sido criticado por generar imágenes manipuladas, incluyendo representaciones de mujeres en bikinis o en poses sexualmente explícitas, así como imágenes que involucran a menores.
Los reguladores de Malasia e Indonesia indicaron que los controles existentes no estaban impidiendo la creación y difusión de contenido pornográfico falso, especialmente aquel que involucra a mujeres y menores de edad.
Elon Musk has previously described Grok as an «anti-woke» AI. (AP: Leon Neal/File)
El gobierno de Indonesia bloqueó temporalmente el acceso a Grok el sábado, seguido por Malasia el domingo.
«El gobierno considera que los ‘deepfakes’ sexuales no consentidos son una violación grave de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital», declaró la ministra de Comunicación y Asuntos Digitales de Indonesia, Meutya Hafid, en un comunicado el sábado.
El ministerio explicó que la medida tenía como objetivo proteger a las mujeres, a los niños y a la comunidad en general del contenido pornográfico falso generado mediante inteligencia artificial.
Los hallazgos iniciales revelaron que Grok carece de salvaguardias eficaces para impedir que los usuarios creen y distribuyan contenido pornográfico basado en fotografías reales de residentes indonesios, según declaró Alexander Sabar, director general de supervisión del espacio digital, en un comunicado aparte.
Añadió que tales prácticas corren el riesgo de violar la privacidad y los derechos de imagen cuando las fotografías son manipuladas o compartidas sin consentimiento, causando daños psicológicos, sociales y de reputación.
Ofcom del Reino Unido inicia una investigación sobre Grok
En Kuala Lumpur, la Comisión de Comunicaciones y Multimedia de Malasia ordenó una restricción temporal de Grok el domingo tras lo que calificó como un «uso repetido indebido» de la herramienta para generar imágenes obscenas, sexualmente explícitas y manipuladas sin consentimiento, incluido contenido que involucra a mujeres y menores.
El regulador señaló que las notificaciones emitidas este mes a X Corp. y xAI, exigiendo salvaguardias más sólidas, recibieron respuestas que se basaron principalmente en mecanismos de denuncia de usuarios.
«La restricción se impone como una medida preventiva y proporcional mientras se llevan a cabo procesos legales y reglamentarios», declaró, añadiendo que el acceso seguirá bloqueado hasta que se implementen salvaguardias eficaces.
El regulador de medios del Reino Unido, Ofcom, confirmó el lunes, hora local, que su investigación analizará si la plataforma ha incumplido su deber de diligencia para proteger a las personas en el Reino Unido de contenidos que puedan ser ilegales.
«Ha habido informes profundamente preocupantes sobre el uso de la cuenta del chatbot de IA Grok en X para crear y compartir imágenes desnudas de personas, lo que puede equivaler a abuso de imágenes íntimas o pornografía, e imágenes sexualizadas de niños que pueden equivaler a material de abuso sexual infantil», declaró Ofcom en un comunicado.
Si determina que X ha infringido la ley, puede exigirle que tome medidas para cumplirla y, en caso contrario, puede multarle hasta el 10% de sus ingresos mundiales cualificados.
Cuando se le pidió un comentario el lunes sobre el lanzamiento de la investigación formal, X remitió a una declaración anterior en la que afirmaba que toma medidas contra el contenido ilegal en la plataforma, incluido el material de abuso sexual infantil, eliminándolo, suspendiendo permanentemente las cuentas y colaborando con los gobiernos y las fuerzas del orden locales según sea necesario.
«Cualquiera que utilice o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal», declaró.
Lanzado en 2023, Grok es de uso gratuito en X. Los usuarios pueden hacerle preguntas en la plataforma de redes sociales y etiquetar publicaciones que hayan creado directamente o respuestas a publicaciones de otros usuarios.
El pasado verano, la empresa añadió una función de generación de imágenes, Grok Imagine, que incluía un llamado «modo picante» que puede generar contenido para adultos.
La semana pasada, Grok limitó la generación y edición de imágenes a los usuarios de pago tras una reacción mundial negativa por los ‘deepfakes’ sexualizados de personas, pero los críticos afirman que no abordó completamente el problema.
AP/Reuters
