Así es como Google está trabajando para aumentar su transparencia

Con el acelerado avance de la inteligencia artificial y su integración en una variedad de productos y servicios, ha surgido una creciente necesidad de que los usuarios comprendan cómo se genera y modifica el contenido digital.

En respuesta a esta demanda, Google está trabajando para aumentar la transparencia mediante tecnologías que permitan a los usuarios identificar si un contenido ha sido creado por IA o editado mediante herramientas digitales.

Para impulsar estos avances, Google ha formado una alianza con la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), donde ocupa un puesto en el comité directivo. Esto ha permitido desarrollar tecnologías que aporten claridad sobre la creación y modificación de contenido.

Tecnología de la mano de la ciberseguridad:

La tecnología de procedencia resulta esencial para proporcionar detalles precisos sobre cómo se originó un contenido, ya sea a través de una cámara, un software de edición o herramientas de IA generativa. Esta información permite a los usuarios tomar decisiones más informadas acerca del contenido que consumen, lo que fortalece la confianza y mejora la educación mediática.

Gracias a su participación en la C2PA, Google ha avanzado en la creación de un estándar técnico más sólido, denominado «Content Credentials», que ha alcanzado su versión 2.1. Este estándar es crucial para garantizar que la procedencia del contenido no pueda ser alterada ni manipulada de manera engañosa.

Las nuevas características técnicas de la versión 2.1 refuerzan las protecciones contra intentos de manipulación, asegurando que la información adjunta a imágenes o videos permanezca fiable e intacta. Esto incrementa la seguridad de las credenciales de contenido, añadiendo una capa adicional de confianza para los usuarios.

Integración de los estándares C2PA:

En los próximos meses, Google planea integrar la versión más reciente de Content Credentials en varios de sus productos clave. En el caso de Google Search, los usuarios podrán utilizar la función “Acerca de esta imagen” para verificar si una imagen ha sido modificada o generada con IA, siempre que contenga los metadatos de C2PA. Esta función proporcionará información adicional sobre las imágenes encontradas en Google Images, Lens y Circle to Search, facilitando una navegación más segura y bien informada.

Asimismo, Google ha comenzado a incluir los metadatos de C2PA en su sistema de publicidad. Según la compañía, su objetivo es seguir avanzando en este proyecto, utilizando las señales de C2PA para mejorar la aplicación de políticas clave.

Además, Google está explorando nuevas formas de mostrar esta información en YouTube cuando el contenido haya sido capturado con cámaras. La empresa ha anunciado que brindará más detalles sobre estas actualizaciones en el futuro.

Una característica clave de estas implementaciones es la validación del contenido a través de la Lista de Confianza de C2PA, un sistema que verifica el origen del contenido. Esto permitirá, por ejemplo, comprobar si una imagen fue tomada con un modelo de cámara específico, garantizando que los datos sean precisos y confiables.

Colaboración:

A pesar de estos avances, Google reconoce que establecer la procedencia del contenido sigue siendo un desafío complejo, que varía según el tipo de producto o servicio. No existe una solución única para todos los tipos de contenido en línea, por lo que la colaboración con otras empresas es fundamental. A través de su participación en la C2PA, Google busca fomentar que más servicios y fabricantes de hardware adopten las Content Credentials, con el objetivo de crear soluciones interoperables y sostenibles para toda la industria.