El chatbot de X ha incurrido en múltiples errores factuales en relación con el tiroteo de Bondi, confundiendo a un “héroe” con un rehén de Hamás y calificando el incidente como una “puesta en escena”.
Un héroe transformado en rehén, imágenes del atentado confundidas con una tormenta, un superviviente presentado como un actor de crisis… El martes, la AFP y varios expertos señalaron a Grok, la inteligencia artificial desarrollada por Elon Musk, por difundir una cascada de información falsa sobre el atentado de Sídney, ocurrido el domingo por la noche en la playa de Bondi durante la festividad judía de Hanucá. El ataque, perpetrado por un padre y su hijo que abrieron fuego contra la multitud, causó al menos 15 muertos y 42 heridos. Las autoridades australianas lo calificaron como un acto “antisemita” y “terrorista”.
El caso de Ahmed al Ahmed ilustra la magnitud del fiasco. Este hombre de origen sirio, celebrado como “héroe” en toda Australia después de que un video lo mostrara arrebatando el fusil a uno de los asaltantes. Mientras el hombre –gravemente herido– sigue hospitalizado, Grok afirmó que esas imágenes correspondían a “un viejo video viral que muestra a un hombre escalando una palmera en un estacionamiento”, sugiriendo aquí una “puesta en escena”. Peor aún: el chatbot identificó a Ahmed al Ahmed como un rehén israelí retenido por Hamás.
Prime Minister’s Office / REUTERS
“Puesta en escena”
La IA no se detuvo ahí. Interrogada sobre otra escena del ataque, aseguró que se trataba de imágenes de la tormenta Alfred, que azotó el este de Australia a principios de año. Ante la insistencia de un usuario, el chatbot dio marcha atrás y reconoció que las imágenes provenían del ataque.
Otro desliz: después del ataque de Sídney, internautas difundieron una imagen de uno de los supervivientes, afirmando erróneamente que se trataba de un “actor de crisis”, según la organización de vigilancia de la desinformación NewsGuard. Un “actor de crisis” (en inglés “crisis actor”) es un término que los teóricos de la conspiración emplean para poner en duda la autenticidad de crímenes masivos y de las víctimas que causan. En relación con la foto del superviviente de Sídney, Grok habla de una “puesta en escena”.
Los expertos estiman que la IA puede ser útil, por ejemplo, para geolocalizar imágenes, pero consideran que, por el momento, es imposible reemplazar a los humanos para verificar los hechos y explicar el contexto. Contactado por la AFP, xAI, el desarrollador de Grok, respondió con un mensaje automático: “Los medios tradicionales mienten”.
