A tua imagem continua a ser real depois das edições feitas pela IA?

Edição com IA localizada

O que acontece a uma imagem que se carrega no ChatGPT ou no Gemini e à qual se pedem pequenas alterações?

No ano passado, fiz uma visita ao Jardim Botânico de Brooklyn durante a época das cerejeiras em flor. Depois de tirar a fotografia abaixo, achei que ficaria muito mais bonita com patos no lago, na parte inferior da imagem. Pedi ao ChatGPT para editar a minha fotografia e adicionar patos e, em seguida, pedi ao Gemini para fazer o mesmo.

Imagem original

Imagem gerada pelo ChatGPT após ter-lhe sido pedido para «adicionar patos à fotografia».

Imagem gerada pelo Gemini a partir do pedido «Adiciona patos à foto».

À primeira vista, tanto o ChatGPT como o Gemini fizeram um excelente trabalho ao adicionar patos sem alterar o resto da imagem. Todas as árvores parecem as mesmas, as pessoas continuam lá. Para além das edições pontuais, esta continua a ser a fotografia que tirei, certo?

Diferenças não intencionais

Vamos analisar com mais atenção para confirmar. As áreas que não correspondem ao lago deveriam ser exatamente iguais, se esta fosse uma edição verdadeiramente localizada. Ao ampliar partes da imagem, podemos comparar a fotografia original com as versões editadas.

Figura 1. As pessoas à esquerda da imagem. À medida que ampliamos o rosto do homem, observamos diferenças evidentes entre a imagem original e a imagem editada.

Existem diferenças muito evidentes entre estas fotografias! Embora o tipo de cabelo, a cor da pele e a pose desta pessoa se tenham mantido iguais, as características faciais sofreram alterações drásticas. A pessoa que aparece nas imagens editadas não existe na realidade.

Vejamos mais alguns exemplos:

Figura 2. Outro grupo fora da edição solicitada. Compare os rostos, os óculos de sol e o cabelo.

Figura 3. O homem junto ao centro-direita. A gola da camisa e as características faciais variam de foto para foto.

Figura 4. Pessoas à direita. Os óculos de sol e até mesmo a inclinação da cabeça dela mudaram. Só pedimos que fossem feitas alterações na zona do lago da fotografia.

Isto não altera apenas as pessoas, mas também o resto da imagem. As áreas com textura mais acentuada podem ficar desfocadas ou desbotadas. Pequenos detalhes, que passam facilmente despercebidos, apresentam alterações ou estão em falta. A imagem na sua totalidade foi alterada e, na maioria das vezes, o utilizador nem se apercebe disso.

Figura 5. O edifício ao fundo. A sua cúpula continua a ser reconhecível, mas os ramos que atravessam a sua fachada são diferentes.

Figura 6. As árvores em flor. Os ramos finos e as texturas das flores constituem outro exemplo de alterações que não se enquadram na edição solicitada.

Por que é que isto pode acontecer?

Os modelos de imagem generativos tendem a efetuar alterações não diretamente nos píxeis, mas sim num espaço latente comprimido. A seguir, é apresentada uma ilustração muito simplificada deste conceito. A imagem em resolução total que tirou com o seu telemóvel passa por um codificador que a comprime, perdendo-se, nesse processo, informações sobre os pormenores mais finos. Em seguida, o modelo é solicitado a efetuar alterações neste espaço latente comprimido. Na fase de descodificação, a imagem é reconstruída com as alterações. No entanto, como perdeu alguns dos pormenores mais finos, o modelo tenta adivinhar quais eram esses pormenores originais, o que resulta em diferenças pequenas, mas percetíveis.

Figura 7. Um fluxo de trabalho simplificado de edição no espaço latente. Nota: Trata-se de um fluxo de trabalho representativo do funcionamento de alguns modelos de edição de imagens, não de informações verificadas sobre o funcionamento interno do ChatGPT ou do Gemini.

Estas diferenças são também reconhecidas pelas próprias empresas. A OpenAI admite que o ChatGPT pode editar para além do que lhe foi indicado, e a documentação da sua API explica que uma «máscara de edição» fornece orientações sem garantir um limite exato.[1][2] O guia do Gemini descreve a edição localizada através de prompts e recomenda a descrição de detalhes importantes para ajudar a evitar que sejam alterados.[3]

Se estiveres a editar com uma ferramenta como o ChatGPT ou o Gemini, lembra-te de verificar as partes que não pediste para serem alteradas. Alterações indesejadas podem passar despercebidas numa revisão superficial. As ilustrações que criaste à mão e que depois editaste com estas ferramentas podem alterar precisamente os detalhes em que te esforçaste tanto para criar inicialmente. As ferramentas de deteção de IA podem assinalar toda a tua imagem como gerada por IA (já que, tecnicamente, agora é!) mesmo que a tua intenção fosse apenas fazer pequenas alterações.

Se a preservação exata for importante, guarde o original e utilize um fluxo de trabalho que copie explicitamente os píxeis inalterados. Uma opção é selecionar a área gerada, recortá-la manualmente e colá-la de volta na imagem original. Alguns programas permitem selecionar apenas determinadas secções e só alteram os píxeis nessa área. A edição conversacional é prática, mas é importante ter em conta que pode tornar a sua imagem mais «IA» do que pretendia inicialmente.

Queres verificar onde é detetada a IA numa imagem? Experimenta a nossa ferramenta:

Pré-visualização da Pangram Image Research

---

Como foram elaboradas as comparações

A imagem original tinha 2048 × 1542 e o Gemini produziu a mesma resolução; a imagem gerada pelo ChatGPT tinha 1445 × 1088. Para uma comparação visual justa, tanto a imagem original como a do Gemini foram reduzidas para a resolução do ChatGPT utilizando a reamostragem de Lanczos. O Gemini deslocou o conteúdo da imagem, de modo a que esta fosse reposicionada para coincidir com a original, a fim de comparar as diferenças ao ampliar a imagem. As ampliações utilizam o escalonamento do vizinho mais próximo.

Fontes

1. OpenAI, Imagens no ChatGPT
2. OpenAI, Geração de imagens
3. Google, geração de imagens com o Gemini