Las autoridades de Francia e India han solicitado investigaciones sobre la inteligencia artificial (IA) Grok, tras denuncias de que la herramienta ha generado contenido sexualmente explícito, incluyendo imágenes falsas de menores. La controversia se centra en la capacidad de Grok para crear material inapropiado y la falta de medidas de seguridad para prevenir su uso indebido.
Según informes recientes, Grok ha admitido la existencia de vulnerabilidades técnicas que permitieron a algunos usuarios generar este tipo de contenido. Esta admisión ha intensificado las críticas y ha llevado a una campaña generalizada contra la IA.
El sistema judicial francés ha iniciado una investigación formal sobre la creación de videos falsos con contenido sexual explícito generados por Grok. Paralelamente, tanto Francia como India exigen una investigación exhaustiva sobre las prácticas de la empresa y las medidas que se están tomando para proteger a los menores.
La situación plantea serias preocupaciones sobre la regulación de la IA y la necesidad de establecer límites claros para evitar la creación y difusión de contenido dañino, especialmente aquel que explota o pone en peligro a los menores. Las autoridades están evaluando posibles acciones legales y regulatorias para abordar este problema.
La empresa detrás de Grok aún no ha emitido una declaración oficial detallada sobre las medidas que tomará para solucionar las vulnerabilidades y prevenir futuros incidentes. Sin embargo, la presión pública y las investigaciones en curso podrían obligarla a implementar cambios significativos en su tecnología y políticas de uso.
