En una presentación, el director de Instagram, Adam Mosseri, comparte su visión del futuro de la IA en Instagram. Sus palabras son un eco de las predicciones que ya hizo en 2017 Ian Goodfellow, codescubridor de los deepfakes.
Adam Mosseri, al frente de Instagram, la filial de Meta, describe un cambio fundamental que se avecina en los próximos años y que transformará la manera en que las personas confían en el contenido en línea.
El problema central, según Mosseri, es que la autenticidad se vuelve infinitamente reproducible. Todo lo que antes distinguía a los creadores de contenido –ser auténticos, tener una voz propia y construir conexiones– ahora está al alcance de cualquiera con las herramientas adecuadas. Los deepfakes son cada vez más sofisticados, la IA genera fotos y videos indistinguibles de las grabaciones reales, y los feeds se llenan de medios sintéticos.
Si bien se habla mucho de “basura de IA” (“AI slop”), ya existe una gran cantidad de contenido de IA impresionante, sin extremidades distorsionadas ni física irreal. Pero incluso este contenido de IA de mayor calidad tiene un aspecto reconocible: las imágenes parecen de alguna manera fabricadas, demasiado lisas, la piel demasiado impecable. Esto cambiará, según el director de Instagram.
La imperfección como prueba de autenticidad
Mosseri ve precisamente en la imperfección el futuro. El feed clásico de Instagram, con fotos pulidas, mucho maquillaje, suavizado de la piel y paisajes contrastados, ya está muerto. La gente ha dejado de compartir momentos en el feed. En cambio, las Stories y, sobre todo, los mensajes directos, donde se intercambian fotos borrosas y videos inestables, son los que tienen más vida.
Según Mosseri, los fabricantes de cámaras se equivocan al apostar por una estética que busca que todos parezcan fotógrafos profesionales del pasado. Más megapíxeles, más procesamiento de imágenes, modos retrato con desenfoque artificial del fondo: esto puede verse bien, pero es barato de producir y aburrido de consumir.
En un mundo donde todo se puede perfeccionar, la imperfección se convertirá en una señal, escribe Mosseri. La crudeza ya no será solo una preferencia estética, sino una prueba de que algo es real. Los creadores inteligentes, en los próximos años, apostarán conscientemente por imágenes de sí mismos sin pulir y poco favorecedoras. Pero incluso estas serán generadas por IA en el futuro (Nota de la redacción: ya lo están haciendo).
Por lo tanto, el listón para los creadores de contenido cambia fundamentalmente: de la pregunta de si alguien puede crear algo, a la pregunta de si alguien puede crear algo que solo él pueda crear.
La dolorosa transición hacia el escepticismo
El mayor desafío, según el director de Instagram, es un cambio de mentalidad social. Las personas deben abandonar la suposición de que lo que ven es real. En cambio, el escepticismo debe convertirse en la actitud predeterminada al ver los medios, junto con una mayor atención a quién comparte algo y por qué.
Esta transición será extremadamente incómoda para todos, según Mosseri. La razón: los humanos están genéticamente programados para creer a sus ojos. Se refiere al libro “Talking to Strangers” de Malcolm Gladwell, que explica que, como especie, los humanos tienden a asumir inicialmente que las declaraciones son verdaderas, porque las ventajas evolutivas de una comunicación y cooperación eficientes superan los costos ocasionales del engaño.
El enfoque debe cambiar: ya no en lo que se dice, sino en quién lo dice. Anteriormente, las fotos y los videos eran grabaciones confiables de momentos reales. Esto ya no es así, y la adaptación tomará años.
Las evaluaciones de Mosseri no son nuevas. Ya en 2017, el investigador de IA Ian Goodfellow, entonces en Google y codescubridor de las Redes Generativas Adversarias (GAN), advirtió sobre un futuro de falsificaciones multimedia masivas.
Goodfellow calificó como una “afortunada coincidencia histórica” que la humanidad se haya basado en los videos durante las últimas décadas para asegurarse de que algo realmente sucediera. Esta fase está llegando a su fin, predijo.
Las personas deben ser más escépticas y dejar de creer automáticamente en las imágenes y los videos en línea. Lo que Mosseri describe ahora es esencialmente una confirmación de esa predicción de hace ocho años.
Instagram quiere dotar a los medios reales de una huella digital
Para las plataformas, Mosseri ve una tarea difícil. Los servicios de redes sociales estarán bajo presión para identificar y etiquetar el contenido de IA. Las grandes plataformas harán un buen trabajo, pero con el tiempo empeorarán a medida que la IA se vuelva cada vez mejor.
Por lo tanto, es más práctico dotar a los medios reales de una huella digital que perseguir las falsificaciones. Los fabricantes de cámaras podrían firmar criptográficamente las imágenes al capturarlas y crear una cadena de evidencia. Sin embargo, el etiquetado como auténtico o generado por IA es solo parte de la solución.
Mosseri esboza un catálogo de medidas para Instagram: la plataforma debe crear las mejores herramientas creativas, etiquetar el contenido generado por IA y verificar el contenido auténtico. Además, quiere mostrar señales de credibilidad sobre las cuentas que publican y mejorar el ranking para la originalidad.
Noticias de IA sin bombo – seleccionadas por personas
Con la suscripción a THE‑DECODER lees sin publicidad y te conviertes en parte de nuestra comunidad: participa en el sistema de comentarios, recibe nuestro newsletter semanal de IA, 6 veces al año el newsletter “KI Radar” – Frontier con los últimos avances en la investigación de IA, hasta un 25 % de descuento en eventos KI Pro y acceso al archivo completo de los últimos diez años.
