Los modelos de lenguaje extenso (LLM) generan con frecuencia nombres de paquetes de software que no existen en ningún registro legítimo. Esta tendencia a las «alucinaciones» facilita el phantom squatting, una táctica adversarial que aprovecha estas sugerencias erróneas para comprometer la seguridad de los desarrolladores que confían en la IA.
¿Qué es el phantom squatting y cómo funciona?
El phantom squatting es una técnica que extiende la lógica adversarial de las alucinaciones de los LLM. De acuerdo con la información analizada, ocurre cuando atacantes identifican los nombres de paquetes inexistentes que la inteligencia artificial sugiere a los usuarios y proceden a registrarlos en repositorios legítimos para distribuir código malicioso.
¿Por qué los LLM alucinan nombres de software?
El problema se origina porque los LLM frecuentemente inventan nombres de paquetes de software que no figuran en ningún registro oficial. Esta falla técnica crea una vulnerabilidad directa: el desarrollador intenta instalar una herramienta sugerida por la IA que no existe, permitiendo que el atacante, mediante el registro previo de ese nombre ficticio, tome el control de la instalación.
