Google Fotos hará más fácil identificar imágenes editadas con IA

Con el avance de las herramientas de edición de imágenes con inteligencia artificial, se hace cada vez más difícil detectar cuáles se han manipulado utilizando dicha tecnología. Google Fotos quiere que sea más sencillo identificarlas, y por ello desde ahora comenzará a incluir marcas de agua en aquellas que se modifiquen utilizando su Editor Mágico.

Específicamente, Google ha anunciado que todas las fotografías que se editen usando la función Reimaginar de Google Fotos incorporarán una marca invisible impulsada por la tecnología SynthID.

Reimaginar es una herramienta del Editor Mágico que debutó con los Pixel 9. Esta permite realizar cualquier tipo de alteración sobre una imagen a partir de un prompt con lenguaje natural. Así, por ejemplo, puedes tomar la foto de un paisaje y pedirle a la IA que modifique el color del cielo o que añada un lago, entre muchas otras posibilidades.

De esta manera, Google Fotos expande su compromiso con la implementación de medidas que permitan el uso seguro de la inteligencia artificial. En octubre del año pasado, la aplicación había comenzado una estrategia similar vinculada con otras de sus características generativas, como el Borrador Mágico o la opción Mejor Toma.

En dicho caso, las imágenes en las que se detectara una alteración con IA empezarían a mostrar un identificador en la sección Detalles junto a otros datos como la resolución, el dispositivo que se usó para la captura, el estado de la copia de seguridad y otros metadatos.

Google Fotos se apoya en SynthID para marcar las fotos editadas con IA

SynthID es una tecnología para marcas de agua en la que Google ya lleva bastante tiempo trabajando. La compañía californiana la anunció en 2023 para, justamente, ayudar a detectar imágenes que hubiesen sido creadas con inteligencia artificial. Pero con el correr de los meses también la expandió a los textos y vídeos confeccionados con sus herramientas generativas.

Desde Google han explicado que la implementación de SynthID en las ediciones que se realizan desde Google Fotos busca mejorar la transparencia en torno al uso de este tipo de funciones. No obstante, también aclararon que la detección de cambios hechos con IA en la función Reimaginar puede no ser del todo efectiva.

En tal sentido, los de Mountain View explicaron que SynthID podría no ser capaz de hallar cambios muy pequeños que pudiesen aplicarse sobre una imagen. Para ser más específicos, indicaron que si, por ejemplo, se usa Google Fotos para cambiar el color de una flor que aparece en el fondo de un paisaje, es posible que pase desapercibido.

El uso de marcas de agua para identificar fotografías u otros contenidos manipulados con inteligencia artificial —sea o no con fines maliciosos— no es exclusivo de Google Fotos. No obstante, su efectividad todavía es asunto de discusión. Si bien utilidades como SynthID, desarrollada por Google DeepMind, hacen más difícil que una imagen alterada pase por real, aún no son infalibles y tienen limitaciones que se deben resolver.