¿Sigue siendo real tu imagen después de los retoques con IA?

Edición con IA localizada

¿Qué ocurre con una imagen que subes a ChatGPT o Gemini para que le hagan pequeños cambios?

El año pasado hice una excursión al Jardín Botánico de Brooklyn durante la temporada de floración de los cerezos. Después de hacer la foto que se ve a continuación, pensé que quedaría mucho mejor con patos en el estanque que se ve en la parte inferior de la imagen. Le pedí a ChatGPT que retocara mi foto para añadir patos y, después, le pedí a Gemini que hiciera lo mismo.

Imagen original

Imagen generada por ChatGPT tras pedirle que «añadiera patos a la foto».

Imagen generada por Gemini tras pedirle que «añadiera patos a la foto».

A simple vista, tanto ChatGPT como Gemini han hecho un gran trabajo añadiendo patos sin modificar el resto de la imagen. Todos los árboles tienen el mismo aspecto y las personas siguen ahí. Aparte de los retoques puntuales, sigue siendo la foto que tomé, ¿verdad?

Diferencias involuntarias

Echemos un vistazo más de cerca para confirmarlo. Las zonas que no forman parte del estanque deberían ser exactamente iguales si se tratara de una edición verdaderamente localizada. Al ampliar determinadas partes de la imagen, podemos comparar la foto original con las editadas.

Figura 1. Las personas que aparecen a la izquierda de la escena. Al ampliar el rostro del hombre, se aprecian claras diferencias entre la imagen original y la retocada.

¡Hay diferencias muy claras entre estas fotos! Aunque el tipo de pelo, el color de piel y la pose de esta persona se han mantenido iguales, los rasgos faciales han cambiado radicalmente. La persona que aparece en las imágenes retocadas no existe en realidad.

Veamos algunos ejemplos más:

Figura 2. Otro grupo que no forma parte de la edición solicitada. Compara los rostros, las gafas de sol y el pelo.

Figura 3. El hombre que se encuentra cerca de la parte central derecha. El cuello de su camisa y los rasgos faciales no coinciden en todas las fotos.

Figura 4. Las personas de la derecha. Las gafas de sol e incluso la inclinación de la cabeza han cambiado. Solo pedimos que se retocara la zona del estanque de la foto.

Esto no solo altera a las personas, sino también el resto de la imagen. Las zonas con mucha textura pueden acabar borrosas o descoloridas. Los pequeños detalles, que suelen pasarse por alto, se ven diferentes o desaparecen. La imagen completa ha cambiado y, en la mayoría de los casos, el usuario no se da cuenta.

Figura 5. El edificio del fondo. Su cúpula sigue siendo reconocible, pero las ramas que cruzan su fachada son diferentes.

Figura 6. Los árboles en flor. Las ramitas y las texturas de las flores constituyen otro ejemplo de cambios que no se ajustan a la modificación solicitada.

¿Por qué puede ocurrir esto?

Los modelos generativos de imágenes suelen realizar cambios no directamente en los píxeles, sino en un espacio latente comprimido. A continuación se ilustra una forma muy simplificada de explicarlo. La imagen a resolución completa que has tomado con tu móvil pasa por un codificador que la comprime y, en ese proceso, se pierde información sobre los detalles más sutiles. A continuación, se le indica que realice cambios en este espacio latente comprimido. En la fase de decodificación, reconstruye la imagen con los cambios. Sin embargo, al haber perdido algunos de los detalles más sutiles, intenta adivinar cuáles eran esos detalles originales, lo que da lugar a diferencias pequeñas pero apreciables.

Figura 7. Un flujo de trabajo simplificado de edición en el espacio latente. Nota: Se trata de un flujo de trabajo representativo del funcionamiento de algunos modelos de edición de imágenes, no de detalles internos verificados de ChatGPT o Gemini.

Las propias empresas también reconocen estas diferencias. OpenAI admite que ChatGPT puede realizar modificaciones más allá de lo indicado en las instrucciones, y en la documentación de su API se explica que una «máscara de edición» ofrece una orientación sin garantizar un límite exacto.[1][2] La guía de Gemini describe la edición localizada mediante indicaciones y recomienda describir los detalles importantes para ayudar a evitar que se modifiquen.[3]

Si estás editando con herramientas como ChatGPT o Gemini, recuerda revisar las partes que no le has pedido que modifique. Los cambios no deseados pueden pasar desapercibidos en un primer vistazo rápido. Las ilustraciones que hayas creado a mano y luego hayas editado con estas herramientas pueden alterar precisamente los detalles en los que tanto te esforzaste al principio. Las herramientas de detección de IA pueden marcar toda tu imagen como generada por IA (¡ya que técnicamente ahora lo es!), aunque tu intención fuera realizar solo pequeños cambios.

Si te importa que se conserve la imagen tal cual, guarda el original y utiliza un flujo de trabajo que copie explícitamente los píxeles sin modificar. Una opción es seleccionar el área generada, recortarla manualmente y pegarla de nuevo en la imagen original. Algunos programas te permiten seleccionar solo determinadas secciones y solo modifican los píxeles de esa zona. La edición conversacional es práctica, pero es importante tener en cuenta que puede hacer que tu imagen tenga un aspecto más «artificial» de lo que pretendías en un principio.

¿Quieres comprobar dónde se detecta la IA en una imagen? Prueba nuestra herramienta:

Vista previa de Pangram Image Research

---

Cómo se elaboraron las comparaciones

La imagen original tenía unas dimensiones de 2048 × 1542 y Gemini generó una imagen con la misma resolución; la de ChatGPT tenía unas dimensiones de 1445 × 1088. Para realizar una comparación visual imparcial, tanto la imagen original como la de Gemini se redujeron a la resolución de ChatGPT mediante el remuestreo de Lanczos. Gemini desplazó el contenido de la imagen para volver a alinearla con la original y poder comparar las diferencias al ampliarla. Las ampliaciones utilizan el escalado del vecino más cercano.

Fuentes

1. OpenAI, imágenes en ChatGPT
2. OpenAI, Generación de imágenes
3. Google, generación de imágenes con Gemini