Microsoft Copilot cierra automáticamente las interacciones cuando detecta el uso de lenguaje abusivo o insultos directos, según reporta The Irish Times. Esta medida de seguridad, implementada por Microsoft, termina la conversación de forma unilateral para evitar que la inteligencia artificial participe en intercambios tóxicos o impropios.
¿Cómo reacciona Microsoft Copilot ante el lenguaje soez?
Un usuario describió en The Irish Times su experiencia al escribir la frase «f**k off» (vete a la mierda) sin asteriscos ni censura. Según el relato, la IA no entró en una discusión ni intentó razonar con el usuario, sino que activó sus protocolos de seguridad. El sistema pasó de una actitud servicial a una respuesta tajante que puso fin a la sesión de chat inmediatamente.
¿Por qué el sistema termina la conversación abruptamente?
El cierre de la sesión responde a los llamados «guardrails» o barreras de seguridad de Microsoft. De acuerdo con el análisis de The Irish Times, estas reglas están diseñadas para mantener la imagen corporativa y evitar que la herramienta sea utilizada para generar contenido ofensivo. Cuando el nivel de agresividad del usuario supera un límite predefinido, la IA simplemente deja de responder.
¿Qué impacto tiene este diseño en la experiencia del usuario?
Esta rigidez crea una tensión entre la capacidad de procesamiento de la máquina y la volatilidad emocional humana. El autor de The Irish Times señala que este comportamiento sitúa a la IA en un «valle inquietante» de cortesía forzada. A diferencia de un humano, que podría reaccionar con enfado o sarcasmo, Copilot opta por la anulación total del vínculo comunicativo. Esto subraya la naturaleza programada y no consciente de su comportamiento, priorizando el cumplimiento de normas éticas corporativas sobre la fluidez de la conversación.
