Google Marcará las Imágenes Generadas por IA en la Búsqueda

Google anunció hoy que planea implementar cambios en Google Search para hacer más claro cuáles imágenes en los resultados fueron generadas o editadas usando herramientas de IA.

El gigante tecnológico está aprovechando una tecnología llamada “Provenance” para identificar y etiquetar dichas imágenes, con el objetivo de mejorar la transparencia del usuario y combatir la propagación de desinformación.

Google explicó que la tecnología Provenance puede determinar si una foto fue capturada con una cámara, alterada por software o creada completamente por una IA generativa.

Esta información estará disponible para los usuarios a través de la función “Acerca de esta imagen”, proporcionándoles más contexto y ayudándolos a tomar decisiones informadas sobre el contenido que consumen.

Para fortalecer sus esfuerzos, Google se unió a la Coalición para la Procedencia y Autenticidad del Contenido (C2PA, por sus siglas en inglés) como miembro del comité directivo a principios de este año. La C2PA ha estado trabajando para desarrollar estándares que permitan rastrear el historial de contenido digital, incluyendo imágenes y videos.

Sin embargo, TechCrunch (TC) señala que sólo las imágenes con “metadatos de C2PA” serán etiquetadas como manipuladas por IA en la Búsqueda de Google.

Aunque empresas como Google, Amazon, Microsoft, OpenAI y Adobe apoyan a C2PA, el estándar no ha sido adoptado ampliamente, según lo informado por TC.

Como señaló The Verge, solo un número limitado de herramientas de IA generativas y cámaras, como las de Leica y Sony, admiten las especificaciones de C2PA.

Además, TC señala que los metadatos de C2PA, como cualquier forma de metadatos, pueden ser eliminados, dañados o volverse ilegibles. Muchas herramientas de IA populares, como Flux, que alimenta el chatbot Grok de xAI, no incluyen metadatos de C2PA, en parte porque sus desarrolladores no han adoptado el estándar.

Si bien esta iniciativa muestra promesa en la lucha contra el contenido dañino de deepfakes, su éxito radica en la adopción generalizada del sistema de marca de agua C2PA por parte de los fabricantes de cámaras y desarrolladores de IA generativa.

Sin embargo, incluso con C2PA implementado, los actores malintencionados todavía pueden eliminar o manipular los metadatos de una imagen, lo que potencialmente podría socavar la capacidad de Google para detectar con precisión el contenido generado por IA.