Dos profesores de derecho de la Universidad de Boston, Woodrow Hartzog y Jessica Silbey, han publicado recientemente un pre-impreso de un nuevo documento que ha llamado poderosamente mi atención, titulado How AI Destroys Institutions (Cómo la IA destruye las instituciones). Les insto a leerlo y reflexionar sobre él lo antes posible.
Aquí está el resumen:
Espero que, antes de que el documento se publique finalmente, los autores incluyan la palabra “Generativa” antes de “IA” en el título, ya que la fuerza de su crítica se centra (como reconoce la última frase del resumen) realmente en los enfoques actuales, y no en todos los enfoques posibles de la IA que uno pueda imaginar.
Pero, wow. Este es uno de los artículos más lúcidos y poderosos que he leído en años. Aquí está el párrafo de apertura:
Si quisieras crear una herramienta que permitiera la destrucción de las instituciones que sustentan la vida democrática, no podrías hacer nada mejor que la inteligencia artificial. Líderes autoritarios y oligarcas tecnológicos están desplegando sistemas de IA para vaciar las instituciones públicas con una rapidez asombrosa. Las instituciones que estructuran la gobernanza pública, el estado de derecho, la educación, la atención médica, el periodismo y las familias están todas en la mira para ser “optimizadas” por la IA. Los defensores de la IA defienden el papel de la tecnología en el desmantelamiento de nuestras estructuras de apoyo vitales, afirmando que los sistemas de IA son simplemente “herramientas” de eficiencia sin importancia sustancial. Pero los sistemas de IA predictivos y generativos no son simplemente conductos neutrales para ayudar a los ejecutivos, burócratas y líderes electos a hacer lo que iban a hacer de todos modos, solo de manera más rentable. El propio diseño de estos sistemas es antitético y degrada las funciones básicas de las instituciones cívicas esenciales, como las agencias administrativas y las universidades.
En el tercer párrafo, exponen su punto central:
En este artículo, esperamos convencerles de un punto simple y urgente: el diseño actual de los sistemas de inteligencia artificial facilita la degradación y destrucción de nuestras instituciones cívicas críticas. Incluso si los sistemas de IA predictivos y generativos no se utilizan directamente para erradicar estas instituciones, los sistemas de IA por su propia naturaleza las debilitan hasta el punto de la vulnerabilidad. Para aclarar, no estamos argumentando que la IA sea una herramienta neutral o de propósito general que pueda utilizarse para destruir estas instituciones. Más bien, argumentamos que la funcionalidad central actual de la IA, es decir, si se utiliza de acuerdo con su diseño, extraerá progresivamente un precio a las instituciones que sustentan la vida democrática moderna. Cuanto más se despliega la IA en nuestros sistemas económicos y sociales existentes, más se volverán las instituciones rígidas y deslegitimadas. Independientemente de que las empresas tecnológicas pretendan esta destrucción, las características clave de los sistemas de IA son anatemas para el tipo de cooperación, transparencia, rendición de cuentas y evolución que dan a las instituciones vitales su propósito y sostenibilidad. En resumen, los sistemas de IA son una sentencia de muerte para las instituciones cívicas, y debemos tratarlos como tal.
§
Otro aspecto sorprendente del documento es su historia de origen. Estaba tan impresionado que le escribí un correo de admiración al primer autor, Woodrow Hartzog, y le pregunté cómo surgió el documento. Resulta que Hartzog y su coautora Jessica Silbey originalmente planearon escribir un ensayo mucho más positivo, pero la realidad se impuso. Con honor, siguieron la realidad dondequiera que les llevara:
La historia de origen de este documento es que originalmente estaba destinado a ser un breve y provocador seguimiento de un artículo muy corto que escribimos hace años llamado “The Upside of Deep Fakes”, donde argumentamos que “los deepfakes no crean nuevos problemas tanto como empeoran los problemas existentes…. El periodismo, la educación, los derechos individuales, los sistemas democráticos y los protocolos de votación han sido vulnerables durante mucho tiempo. Los deepfakes podrían ser la gota que colme el vaso. Y ahí radica la oportunidad de [una reparación profunda y estructural].
Sin embargo, a medida que comenzamos a desarrollar este documento, nos dimos cuenta de que la amenaza que representa la IA para las instituciones era mucho más grave de lo que habíamos anticipado. También nos dimos cuenta de que éramos demasiado optimistas con respecto a las posibles ganas de salvaguardar las instituciones. Así que intentamos escribir algo conciso y urgente que expusiera las diferentes formas en que el diseño de los sistemas de IA funcionaba para debilitar las instituciones hasta el punto del colapso.
Lea eldocumento completo aquí.
