La mayoría de las universidades ya cuentan con una política sobre inteligencia artificial. Probablemente mencione a ChatGPT, inste a los estudiantes a no hacer trampa, ofrezca algunos ejemplos de “uso apropiado” y prometa que el personal recibirá orientación y capacitación.
Todo eso está bien. Pero se pierde la verdadera dimensión del problema.
Si observamos una universidad típica en el Reino Unido hoy en día, un futuro estudiante podría encontrarse con usted a través de un anuncio digital dirigido cuya audiencia ha sido definida por un algoritmo. Aplica a través de un sistema en línea que ya puede incluir filtros y puntuaciones automatizadas. Al llegar, un chatbot responde a sus preguntas a las 11 de la noche. Sus clases se programan mediante algoritmos que ajustan el número de estudiantes a la disponibilidad de las aulas, y sus ensayos son examinados por detectores automatizados de plagio y, cada vez más, por otras herramientas de detección de IA. Los paneles de análisis del aprendizaje clasifican silenciosamente a los estudiantes como de bajo, medio o alto riesgo. Un sistema de alerta temprana puede sugerir a un tutor que intervenga.
En cada paso, sistemas impulsados por aprendizaje automático y automatización están haciendo recomendaciones, estructurando opciones y, a veces, desencadenando decisiones. Sin embargo, es posible que no esté claro para los estudiantes, ni para el personal, qué partes de este proceso están “habilitadas por IA”, cómo funcionan esos sistemas o quién es responsable de sus resultados.
Hablamos de la IA como si fuera una aplicación. En realidad, se está convirtiendo en el sistema operativo de la universidad.
Este cambio es importante. Las aplicaciones son extras opcionales: las descargas, las pruebas y las eliminas. Los sistemas operativos son diferentes. Se sitúan debajo de todo lo demás. Determinan qué se puede instalar, quién tiene permisos, qué procesos son posibles y qué datos se recopilan en el camino. Cuando cambias el sistema operativo, cambias toda la máquina.
Además de la captación de estudiantes, el aprendizaje, la evaluación y el apoyo, la IA también afecta a áreas de servicios profesionales, como la planificación de instalaciones, las previsiones financieras y todo tipo de adquisiciones. Sin embargo, nuestra gobernanza todavía se centra en el nivel de “¿está bien que los estudiantes usen ChatGPT en sus ensayos?”.
De esto se derivan tres verdades incómodas.
En primer lugar, la mayoría de las instituciones no tienen un mapa fiable de su propia infraestructura de IA. Si le pregunta a un vicerrector, un PVC de educación o un presidente del consejo un único documento que enumere todos los usos significativos de la IA o la toma de decisiones automatizada en toda la institución, es probable que reciba un silencio cortés.
La responsabilidad está fragmentada. TI gestiona algunos sistemas. La secretaría académica gestiona otros. Los comités de enseñanza y aprendizaje ven partes relacionadas con la evaluación. Los delegados de protección de datos examinan algunas evaluaciones de riesgos. Los equipos de adquisiciones firman contratos que incorporan funciones habilitadas por IA que nadie ha examinado realmente. Los proveedores ofrecen funciones “inteligentes” como parte de las actualizaciones estándar que se escapan a los mecanismos de supervisión existentes.
Si no puede mapear su IA, no puede gobernarla. Las universidades necesitan un mapa actualizado de su infraestructura de IA: no una estrategia digital brillante, sino un inventario de trabajo de dónde está en juego la IA o la automatización significativa, qué decisiones moldea, qué datos utiliza y qué grupos son responsables de ella. Esto es una diligencia debida básica, no algo deseable.
En segundo lugar, la rendición de cuentas es difusa. Cuando un detector de plagio produce una coincidencia espuria, ¿quién es responsable: el proveedor del software, el equipo central que configuró los umbrales o el académico al que se le dice que “use su criterio” pero que está bajo presión para ser coherente? Cuando un sistema de análisis señala a un estudiante como “en riesgo” y nadie se pone en contacto con él, o lo señala falsamente y desencadena una intervención de bienestar innecesaria, ¿de quién es la culpa?
En dominios de alto riesgo, como la progresión académica, las acusaciones de mala conducta o las preocupaciones pastorales, las universidades tienen obligaciones legales y reglamentarias en torno a la equidad, el debido proceso y la igualdad. Ya no es suficiente con encogerse de hombros y decir “el sistema lo sugirió”. Si externalizamos partes del juicio a las máquinas, necesitamos una comprensión mucho más clara de dónde comienza y termina la responsabilidad humana.
Los órganos de gobierno deben insistir en líneas claras de rendición de cuentas para cualquier sistema de IA que afecte materialmente a la progresión, clasificación o bienestar de los estudiantes. Esto significa respuestas explícitas a preguntas sencillas: ¿Quién es el propietario de este sistema? ¿Quién puede cambiar sus parámetros? ¿Qué recurso tienen los estudiantes y el personal si parece ser incorrecto?
En tercer lugar, la IA está redistribuyendo silenciosamente el poder y remodelando los roles profesionales. Los equipos de datos y análisis, los servicios centrales y los proveedores externos ganan influencia. La autonomía académica se ve limitada por los flujos de trabajo estándar y los sistemas de retroalimentación automatizados. Los estudiantes experimentan juicios que están cada vez más mediados por un código invisible.
Esta redistribución no es necesariamente negativa. Bien utilizada, la IA puede liberar tiempo del personal para tareas de orden superior, apoyar decisiones más coherentes y revelar patrones de desigualdad que de otro modo permanecerían ocultos. Pero sin un diseño deliberado, el riesgo es una especie de desprofesionalización silenciosa: los académicos se convierten en supervisores de la calificación automatizada en lugar de evaluadores; los tutores se convierten en implementadores de impulsos generados en otros lugares; el personal profesional se hace responsable de resultados que no diseñó.
Necesitamos una supervisión transversal, no solo comités dispersos. Un grupo de gobernanza de IA serio debería reunir al personal académico, a los servicios profesionales, a los estudiantes, a TI, a los especialistas en protección de datos y en igualdad. Su mandato no debe ser el de aprobar herramientas, sino el de examinar la arquitectura: cómo interactúan estos sistemas, qué valores y supuestos codifican y qué riesgos crean.
Y debemos tomarnos en serio la voz de los estudiantes en estos asuntos. Si la experiencia educativa de un estudiante está moldeada por un sistema operativo invisible, tiene derecho a opinar sobre cómo se diseña.
La revolución de la IA en la educación superior no llegará con robots humanoides dando conferencias. Ya está aquí, zumbando silenciosamente en los sistemas de fondo que asignan la atención, etiquetan el riesgo y moldean la oportunidad. El desafío ahora es asegurarse de que alguien esté realmente a cargo de la sala de máquinas, y de que las personas cuyas vidas se ven afectadas por ella sepan dónde están los controles.
Tom Smith es el director académico del Royal Air Force College y profesor asociado de relaciones internacionales en la University of Portsmouth.
