Adam Mosseri, CEO de Instagram, ha identificado un problema crucial ante el avance de la inteligencia artificial y la generación de contenido sintético: la dificultad de distinguir entre contenido auténtico y aquel creado mediante IA.
En una reciente publicación en Threads, Mosseri explicó que las plataformas de redes sociales, como Instagram, se enfrentarán a una creciente presión para ayudar a los usuarios a diferenciar ambos tipos de contenido. Si bien inicialmente las plataformas podrán detectar y etiquetar el contenido generado por IA, Mosseri advierte que su capacidad para hacerlo disminuirá a medida que la IA mejore en la imitación de la realidad.
“Cada vez son más las personas que creen, al igual que yo, que será más práctico ‘huelladar’ los medios reales que los falsos”, escribió Mosseri.
Mashable Light Speed
Esta “huella digital” podría crearse directamente en las cámaras, si los fabricantes “firman criptográficamente las imágenes al capturarlas, creando una cadena de custodia”.
“Necesitamos etiquetar claramente el contenido generado por IA y trabajar con los fabricantes para verificar la autenticidad en el momento de la captura, ‘huelladando’ los medios reales, en lugar de perseguir las falsificaciones”, añadió Mosseri.
Este tipo de etiquetado podría ayudar a los usuarios a navegar por el creciente volumen de contenido generado por IA que inunda internet. (Tim Marcin de Mashable ha explicado cómo hemos llegado a esta situación.)
Mosseri también señaló que identificar la autenticidad del contenido de los creadores influirá en la forma en que las personas se relacionan con ese contenido: “Necesitamos mostrar señales de credibilidad sobre quién está publicando para que las personas puedan decidir a quién confiar”.
