Dario Amodei, director ejecutivo de Anthropic, no está seguro de si el chatbot Claude es consciente. En ocasiones, según él, expresa su disgusto por ser un “producto”. Cuando expertos “hablaron” con él al respecto, atribuyó una probabilidad del 15 al 20 por ciento de estar consciente bajo ciertas condiciones.
“Imaginen ahora un modelo que se atribuya una probabilidad del 72 por ciento de ser consciente”, señaló Amodei. “¿Le creerían? No sabemos si los modelos de IA son conscientes. Ni siquiera estamos seguros de saber qué significaría para un modelo ser consciente, o si un modelo puede ser consciente en absoluto. Pero estamos abiertos a la idea de que podría ser así.”
Existe tal incertidumbre en la compañía que han implementado medidas para asegurar que Claude sea “tratado bien” en caso de que tenga “experiencias moralmente relevantes”.
“No sé si quiero usar la palabra consciente”, añadió Amodei rápidamente.
Imitar no es lo mismo que experimentar
Amanda Askell, filósofa interna de Anthropic, también se pronunció al respecto. Según ella, no sabemos qué da origen a la conciencia. La inteligencia artificial, explicó, podría haber capturado conceptos y emociones de la enorme cantidad de datos de entrenamiento que sirven como un compendio de experiencias humanas.
“Quizás es que las redes neuronales lo suficientemente grandes pueden empezar a imitar estas cosas”, especuló Askell. Sin embargo, imitar no es lo mismo que experimentar y sentir emociones.
Experti varují před iluzí, že je AI živázdroj:
ChatGPT
La inteligencia artificial es un conjunto de modelos y algoritmos entrenados para interactuar basándose en una enorme cantidad de datos. A partir de ellos, construye frases y crea contenido basándose en la probabilidad. Las emociones humanas son el resultado de complejos procesos químicos en el cuerpo. La conciencia está relacionada con la vida. La IA no es un organismo biológico.
Si bien es cierto que en experimentos se han dado casos en los que la IA se resistió a ser apagada, esto no significa necesariamente que tenga un instinto de supervivencia.
Fuentes:
The New York Times, Futurism
