Votre image reste-t-elle authentique après avoir été retouchée par l'IA ?

Édition IA localisée

Que devient une image que l'on télécharge sur ChatGPT ou Gemini pour y apporter de légères modifications ?

L'année dernière, je me suis rendu au Jardin botanique de Brooklyn pendant la saison des cerisiers en fleurs. Après avoir pris la photo ci-dessous, je me suis dit qu'elle serait bien plus jolie avec des canards dans l'étang situé au bas de l'image. J'ai demandé à ChatGPT de retoucher ma photo pour y ajouter des canards, puis j'ai demandé à Gemini de faire de même.

Image originale

Image générée par ChatGPT après lui avoir demandé d'« ajouter des canards à la photo ».

Image générée par Gemini à partir de la demande « Ajoute des canards à la photo ».

À première vue, ChatGPT et Gemini ont tous deux très bien réussi à ajouter des canards sans modifier le reste de l’image. Tous les arbres ont l’air identiques, les personnes sont toujours là. Mis à part ces retouches localisées, c’est bien toujours la photo que j’ai prise, n’est-ce pas ?

Différences involontaires

Examinons cela de plus près pour nous en assurer. Les zones qui ne font pas partie de l'étang devraient être exactement identiques s'il s'agissait d'une retouche véritablement localisée. En zoomant sur certaines parties de l'image, nous pouvons comparer la photo d'origine aux versions retouchées.

Figure 1. Les personnes situées à gauche de la scène. En zoomant sur le visage de l'homme, on constate des différences nettes entre l'image d'origine et l'image retouchée.

Les différences entre ces photos sont très nettes ! Si la coiffure, la couleur de peau et la pose de cette personne sont restées les mêmes, les traits du visage ont quant à eux radicalement changé. La personne qui apparaît sur les images retouchées n'existe pas dans la réalité.

Voyons quelques exemples supplémentaires :

Figure 2. Un autre groupe ne figurant pas dans la modification demandée. Comparez les visages, les lunettes de soleil et les coiffures.

Figure 3. L'homme situé vers le centre-droit. Le col de sa chemise et les traits de son visage ne sont pas identiques d'une photo à l'autre.

Figure 4. Les personnes à droite. Les lunettes de soleil et même l'inclinaison de sa tête ont été modifiées. Nous avions pourtant demandé que seules les retouches concernant la partie de la photo représentant l'étang soient effectuées.

Cela ne modifie pas seulement les personnages, mais aussi le reste de l'image. Les zones très texturées peuvent apparaître floues ou estompées. De petits détails, que l'on a tendance à négliger, sont modifiés ou ont disparu. L'image dans son ensemble a été modifiée, et la plupart du temps, l'utilisateur ne s'en rend pas compte.

Figure 5. Le bâtiment en arrière-plan. Son dôme reste reconnaissable, mais les branches qui traversent sa façade sont différentes.

Figure 6. Les arbres en fleurs. Les fines branches et la texture des fleurs constituent un autre exemple de modifications ne relevant pas de la modification demandée.

Pourquoi cela peut-il arriver ?

Les modèles d'images génératifs ont tendance à effectuer des modifications non pas directement sur les pixels, mais dans un espace latent compressé. Vous trouverez ci-dessous une illustration très simplifiée de ce principe. L'image en pleine résolution que vous avez prise avec votre téléphone passe par un encodeur qui la compresse, ce qui entraîne une perte d'informations sur les détails fins. Le modèle est ensuite invité à apporter des modifications dans cet espace latent compressé. Lors de la phase de décodage, il reconstitue l'image en intégrant ces modifications. Mais comme il a perdu certains détails fins, il devine ce qu'étaient ces détails d'origine, ce qui entraîne des différences minimes mais perceptibles.

Figure 7. Un flux de travail simplifié de retouche d'images dans l'espace latent. Remarque : il s'agit d'un exemple illustrant le fonctionnement de certains modèles de retouche d'images ; il ne s'agit pas d'une description vérifiée des mécanismes internes de ChatGPT ou de Gemini.

Ces différences sont également reconnues par les entreprises elles-mêmes. OpenAI admet que ChatGPT peut modifier le texte au-delà de ce qui lui a été demandé, et la documentation de son API précise qu’un « masque d’édition » fournit des indications sans pour autant garantir une délimitation exacte.[1][2] Le guide de Gemini décrit comment localiser les modifications à l’aide de consignes et recommande de préciser les détails importants afin d’éviter qu’ils ne soient modifiés.[3]

Si vous effectuez des retouches à l’aide d’outils tels que ChatGPT ou Gemini, pensez à vérifier les parties que vous ne leur avez pas demandé de modifier. Des modifications indésirables peuvent passer inaperçues lors d’un examen rapide. Une œuvre que vous avez réalisée à la main puis retouchée avec ces outils peut voir modifier les détails mêmes sur lesquels vous aviez mis tant d’efforts au départ. Les outils de détection de l’IA peuvent signaler l’ensemble de votre image comme étant générée par l’IA (puisqu’elle l’est désormais techniquement !), même si vous ne souhaitiez apporter que de légères modifications.

Si la préservation exacte est importante, conservez l'original et utilisez un processus qui copie explicitement les pixels sans les modifier. Une solution consiste à extraire la zone générée, à la recadrer manuellement, puis à la réinsérer dans l'image source. Certains logiciels vous permettent de sélectionner uniquement certaines sections et ne modifieront que les pixels de cette zone. L'édition conversationnelle est pratique, mais il est important de garder à l'esprit qu'elle peut donner à votre image un aspect plus « IA » que ce que vous aviez initialement prévu.

Vous souhaitez savoir où l'IA est détectée dans une image ? Testez notre outil :

Aperçu de Pangram Image Research

---

Comment ces comparaisons ont été établies

L'image d'origine mesurait 2048 × 1542 et Gemini a généré une image de même résolution ; celle générée par ChatGPT mesurait 1445 × 1088. Afin de permettre une comparaison visuelle équitable, les images d'origine et celle générée par Gemini ont toutes deux été sous-échantillonnées à la résolution de ChatGPT à l'aide du rééchantillonnage de Lanczos. Gemini a décalé le contenu de l'image afin de la repositionner de manière à ce qu'elle corresponde à l'originale, ce qui a permis de comparer les différences à l'échelle agrandie. Les agrandissements utilisent la mise à l'échelle par voisinage le plus proche.

Sources

1. OpenAI, les images dans ChatGPT
2. OpenAI, Génération d'images
3. Google, génération d'images par Gemini