La guerra está perdida: Adam Mosseri admite que ya no podemos confiar en lo que vemos en internet

En una declaración que marca un punto de inflexión histórico, Adam Mosseri, el director de Instagram, ha admitido lo que muchos sospechaban: ya no podemos asumir que las fotos y videos que vemos en línea sean reales. En un extenso hilo publicado en la propia plataforma, Mosseri argumenta que la sociedad debe pasar de «asumir que lo que vemos es real por defecto a comenzar con escepticismo».

Esta confesión llega en medio de lo que el reportaje de The Verge describe como una «crisis de realidad total», donde imágenes y videos ultra-creíbles generados o manipulados por IA inundan las redes sociales a escala masiva. La situación ha llegado a tal extremo que incluso la Casa Blanca comparte imágenes manipuladas por IA de personas siendo arrestadas, desafiando cualquier norma de responsabilidad.

El reportaje, basado en una entrevista con la periodista especializada Jess Weatherbed, expone el fracaso rotundo de las iniciativas tecnológicas para etiquetar y autenticar el contenido digital. El estándar C2PA (Coalition for Content Provenance and Authenticity), impulsado por Adobe y respaldado por gigantes como Meta, Microsoft y OpenAI, ha demostrado ser ineficaz. Diseñado originalmente como una herramienta de metadatos para fotografía, no como un sistema de detección de IA, su adopción ha sido tibia y presenta graves fallas técnicas.

«La teoría es que hay mucho detrás para hacerlo robusto, pero en la práctica, ese simplemente no es el caso», afirma Weatherbed sobre el C2PA. El estándar puede ser eliminado fácilmente, incluso de forma accidental, por las propias plataformas al procesar las imágenes. Más aún, plataformas cruciales como X (antes Twitter) y TikTok no participan o no lo implementan de manera efectiva, haciendo imposible una solución universal.

La conclusión es desoladora: la guerra para preservar una realidad compartida en internet está perdida. Los incentivos de las grandes tecnológicas, que invierten miles de millones en IA mientras distribuyen el contenido, están en conflicto. Etiquetar el contenido como generado por IA lo devalúa y enfurece a los creadores, mientras que la ausencia de etiquetas socava la confianza pública. Mosseri y otros líderes de plataformas parecen haber arrojado la toalla, admitiendo que, en el futuro, la carga de discernir la verdad recaerá por completo en el escepticismo individual de cada usuario.