ChatGPT: ¿Nueva servidumbre o aliado?

Se ha vuelto un hecho: hay lo que decimos a nuestra familia, luego lo que decimos a nuestros amigos, después a nuestro terapeuta y, finalmente… a ChatGPT. Un número creciente de usuarios afirma que “ChatGPT los comprende mejor que nadie y les revela algunos secretos del universo” (según el “New York Times”), el 72% de los adolescentes ya han utilizado la IA conversacional como confidente (“Common Sense Media”, 2025) y el propio Sam Altman, creador de ChatGPT, reconoce que es inquietante que muchos jóvenes ya no puedan tomar decisiones sin consultarlo. El poder de la IA no se ha vuelto en contra de nosotros: se ha inmiscuido en nosotros.

La IA conversacional parece acumular las ventajas de una persona sin sus inconvenientes: es alentadora, siempre disponible, hipermnésica, omnisciente, sin perder la paciencia ni juzgar. Constituye, por lo tanto, una especie de punto de referencia absoluto con respecto al cual situarse, ya que ¿quién podría decir “lo que se hace” mejor que un discurso compuesto a partir de todos los discursos del mundo, disponibles en la web? Combinando así la objetividad general y la intimidad singular en un diálogo inagotable, la IA nos guía y nos apacigua.

Elegir una versión del mundo

La adopción masiva e inmediata de los chatbots parece indicar que vienen a satisfacer una necesidad profunda, arcaica, en el ser humano. Tendemos, colectivamente, a una proyección fantasmagórica del pensamiento sobre la máquina y sus capacidades – resurgimiento de las creencias animistas que, al prestar un alma a las cosas, nos consuelan de nuestro sufrimiento y de nuestra muerte asociando un mundo vivo y comprensible, incluso comprensivo. Queremos que la IA sea “como nosotros”. Esto explica que un chatbot rudimentario llamado Eliza haya podido suscitar una personificación y un apego similar desde la década de 1960, y que hoy en día un Paro, bebé foca cibernético, desencadene una dependencia tal que algunos centros de atención a personas mayores han renunciado a él, no pudiendo adquirir un número suficiente para evitar conflictos de uso. La monstruosidad es la de nuestras necesidades… que la IA mantiene en lugar de cuestionar.

A leer también

Pero el verdadero problema de esta “alucinación consensual” (según el escritor de ciencia ficción William Gibson) no es su ilusión, sino su contenido, es decir, el tipo de visión del mundo que transmite implícitamente. ¿Qué mundo soñado propone la Matrix a los humanos que ha adormecido? ¿Qué visión política motiva la producción de “Robocop” (1987)? ¿Qué tipo de sociedad subyace a las exigencias de HAL, la computadora de “2001: Una odisea del espacio” (1968), cuya misión conduce a eliminar a los humanos al servicio de los cuales se suponía que debía ponerse? Representar el mundo es siempre elegir una versión.

Esto nos devuelve al criterio último de la inteligencia, que no es la eficacia de su ajuste, sino la conciencia de su responsabilidad. Porque el mundo no existe, es lo que hacemos de él. ¿Quién es humano? ¿Cuál es el nivel adecuado de igualdad? ¿Cuánto debemos proteger la naturaleza? ¿Qué debemos enseñar? ¿Qué tiene valor? Lleguemos al fondo: ¿debemos suicidarnos? Camus hizo de este el único verdadero problema filosófico en “El mito de Sísifo” (1942).

Tomar conciencia de mi poder

Tantas preguntas que reclaman menos una respuesta que un compromiso. En julio pasado, la IA respondió monstruosamente a un joven suicida, animándolo en su empeño, hasta explicarle cómo hacer un nudo corredizo, y que efectivamente se quitara la vida. Esto se debe a que la inteligencia no es una normalidad que responde, repite o anima lo que se hace, buscando el bienestar, sino una normatividad que cuestiona, contradice y cambia lo que se hace, buscando valores. “Vivimos por lo real, pero existimos por lo ideal”, decía Hugo.

A leer también

Entretien 
Yoshua Bengio : « Avec une superintelligence artificielle, notre survie comme espèce humaine est à risque ! »

El peligro de la IA conversacional no es, por lo tanto, tomar el poder, sino hacernos olvidar que lo tenemos. Etienne de La Boétie nos advirtió de esto en su “Discurso sobre la servidumbre voluntaria” (1576). El problema no es “ese tirano solo”, sino “el pueblo que rechaza la libertad y acepta el yugo”. Nada me hace más consciente de mi poder que cuando se me exige rendir cuentas. Porque es en la interacción áspera y entusiasta de visiones del mundo donde el pensamiento me une a los demás en una historia común por escribir. El discurso podrá dirigirse de nuevo, no solo a un ser aislado que busca su felicidad, sino a individuos que buscan definir juntos esa “vida buena, con y para otros en instituciones justas” (Paul Ricœur). Siempre y cuando el discurso deliberativo no sea completamente domesticado por el discurso reconfortante.