Comment fonctionne Pangram ?

Nous estimons qu'il est important de pouvoir identifier de manière fiable les textes générés par l'IA ; c'est pourquoi nous avons mis au point un détecteur capable de le faire. Étant donné l'importance de cette question, il est tout à fait prudent de faire preuve de transparence quant à son fonctionnement.

Lorsqu’un auteur rédige une phrase, il prend des milliers de décisions, conscientes et inconscientes, sur la manière dont celle-ci doit être construite. Fondamentalement, la détection de l’IA est un problème d’identification de l’auteur : il s’agit de déterminer quelles décisions sont caractéristiques de quel type d’auteur. Nous pouvons y parvenir car, bien que les modèles de langage de grande envergure (LLM) comme ChatGPT ne soient pas humains, ils n’en constituent pas moins un auteur unique prenant des décisions. Les types de décisions qu’ils sont susceptibles de prendre sont également limités : les modèles d’assistance doivent produire des textes clairs et utiles pour répondre efficacement aux questions. Ces préférences sont ancrées dans le modèle lors de son apprentissage, et une fois qu’elles y sont implantées, il est très difficile d’empêcher qu’elles ne se manifestent.

Qu'est-ce qu'un pangramme ?

Pangram est un type de réseau neuronal appelé « modèle classificateur ». Au sens large, Pangram analyse un extrait de texte et, à l'aide d'un vaste ensemble de modèles appris, évalue s'il a été généré par une IA.

Pangram apprend à distinguer les textes rédigés par des humains de ceux générés par des modèles linguistiques de grande envergure (LLM) en construisant une sorte de carte sur laquelle les auteurs ayant des styles d'écriture similaires sont placés à proximité les uns des autres, tandis que ceux dont les styles diffèrent sont positionnés plus loin les uns des autres. Sur cette carte, les textes rédigés par des humains et ceux générés par l'IA forment des groupes distincts, et nos recherches montrent que Pangram est même capable de localiser les principaux modèles linguistiques commerciaux, tels que ChatGPT et Claude, dans des zones différentes.

Lorsque Pangram rencontre un texte qu’il n’a jamais vu auparavant, il détermine où celui-ci doit être classé sur la carte en le comparant aux textes qu’il connaît déjà. Aucun aspect particulier du texte ne détermine à lui seul son classement ; ainsi, un auteur humain ne risque pas d’être classé à tort simplement parce que ChatGPT a repris l’un de ses procédés stylistiques préférés, comme le tiret long. Les « LLM-ismes » visibles ne constituent qu’un signal parmi les centaines de milliers que Pangram prend en compte.

Si les coordonnées obtenues se situent dans une zone correspondant à un texte rédigé par un humain, Pangram conclut que le texte est d’origine humaine ; si elles se situent dans une zone plus ambiguë, ou si différents passages d’un même texte indiquent des directions divergentes, Pangram commence à soupçonner qu’il pourrait s’agir d’un texte généré par une IA. C’est pourquoi Pangram impose un nombre minimum de mots : plus il y a de mots, plus les coordonnées sont précises. Cette même approche aide également Pangram à généraliser ses conclusions aux nouvelles versions de modèles d’IA, qui ont tendance à hériter en grande partie du style et de la voix de leurs prédécesseurs, et occupent donc des zones très similaires sur la carte.

Pangram est plus performant que les autres détecteurs d'IA

Les tentatives précédentes visant à détecter les textes générés par l'IA se sont soldées par des échecs cuisants et publics. Cela s'explique par le fait qu'elles cherchaient à reconstituer le processus par lequel les grands modèles linguistiques produisent du texte. Après chaque mot d'une phrase, ces détecteurs se posaient la question suivante : « Si j'étais un grand modèle linguistique, quel mot m'attendrais-je à voir apparaître ensuite ? »

Par exemple, face à un fragment de phrase tel que « Je vais emmener mon chien faire un… », un modèle d’IA pourrait considérer que « promenade » ou « course » sont des mots suivants très probables, tandis que des mots sans rapport comme « présage » ou « verglas » ne seraient pas des candidats plausibles. Les premiers détecteurs tentaient de reconstituer le classement des mots probables établi par un LLM et de le comparer au mot qui apparaissait réellement ; ainsi, plus le texte suivait le choix prévisible, plus le détecteur était susceptible de le classer comme généré par l’IA. En substance, cela reflète le degré de perplexité d’un LLM face à un mot apparaissant ensuite dans une phrase ; c’est pourquoi ce mode de détection de l’IA a été appelé « analyse de perplexité ».

L'analyse de la perplexité présente de nombreux problèmes. Elle ne constitue pas un bon indicateur de ce qu'elle cherche à distinguer, car les phrases humaines sont souvent tout aussi « canalisées » que les textes générés par les modèles de langage de grande envergure (LLM). Ainsi, les textes humains prévisibles ou structurés sont souvent signalés à tort par les détecteurs de perplexité, tandis que, dans le même temps, ces détecteurs sont facilement contournés par des stratégies évidentes, comme le remplacement de mots par des synonymes moins courants.

Comme on le sait, les modèles de perplexité échouent également sur de nombreux textes antérieurs à l’avènement de l’ordinateur. La détection basée sur la perplexité a tendance à vous affirmer que la Bible, la Déclaration d’indépendance ou le Frankenstein de Mary Shelley sont générés à 100 % par l’IA. Cela s’explique par le fait que les grands modèles de langage (LLM) ont lu la Déclaration d’indépendance des milliers de fois au cours de leur entraînement ; ainsi, chaque mot qui y figure n’a rien de surprenant du point de vue du LLM. Le détecteur interprète à tort cette probabilité comme une preuve que le texte a été généré par une IA.

Pangram évite ce problème, car il ne cherche pas à reconstituer la manière dont un modèle de langage de grande envergure (LLM) génère du texte. Plutôt que d’examiner chaque mot en se demandant « que ferait un LLM à cet endroit ? », Pangram analyse le texte dans son ensemble et se demande « à qui cela fait-il penser ? ». Ainsi, le niveau de familiarité de ChatGPT ne pourrait jamais amener Pangram à classer à tort des documents historiques comme étant générés par l’IA – mais tous les cas ne sont pas aussi simples.

Comment nous avons formé Pangram

Il n’est pas difficile d’entraîner un classificateur pour qu’il atteigne une précision de 98 %. La plupart des textes générés par l’IA sont faciles à reconnaître, et un réseau neuronal peut rapidement apprendre à repérer les indices les plus évidents. Tout comme n’importe qui pourrait comparer un poème d’E. E. Cummings à une citation des Frères Karamazov et conclure qu’ils ont été écrits par des auteurs différents, un classificateur basique peut sans peine distinguer une recette de pâtes générée par l’IA d’une entrée de journal intime rédigée par un humain. Mais en matière de détection de l’IA, une précision de 98 % est extrêmement médiocre : un taux d’erreur de 2 % signifierait une classification erronée d’un document sur 50, ce qui remettrait en cause n’importe quelle prédiction. Imaginez donc que vous fassiez partie des 2 % des meilleurs experts capables de distinguer un texte de Dostoïevski : quelle stratégie adopteriez-vous pour entrer dans les 0,01 % les plus performants?

À ce niveau, relire Dostoïevski ne produit plus que des rendements décroissants : pour combler l’écart, il faut identifier les caractéristiques que personne, à part Dostoïevski, ne pourrait reproduire. Une bonne stratégie pourrait consister à engager quelques imitateurs professionnels pour rédiger les clones de Dostoïevski les plus convaincants possibles, puis à étudier les différences. C’est ainsi que nous entraînons Pangram : pour chaque élément de notre ensemble de données composé de textes écrits par des humains et disponibles sous licence commerciale, nous générons un double IA aussi proche que possible de sa source. Ces doubles ont la même longueur, le même ton et le même sujet, mais sont générés par l’IA. Nous entraînons ensuite le modèle Pangram sur ces paires de textes humains-IA.

En apprenant à distinguer ces paires, Pangram améliore efficacement la résolution des zones limites sur sa carte interne. Pour garantir la plus grande précision possible de la carte de Pangram, nous faisons très attention à éviter toute « contamination » des données : notre ensemble de données de textes humains connus provient de 2021 et des années antérieures, avant que l’IA ne soit lâchée sur Internet. Cela fonctionne bien pour l’instant, mais nous sommes conscients que nous devrons nous adapter au fur et à mesure que la langue évolue. Traiter de manière préventive la dérive des données avant qu’elle ne devienne un problème est l’une de nos principales priorités de recherche.

Comment savoir si Pangram a raison ?

Pangram est un modèle statistique qui établit des prévisions en se basant uniquement sur du texte ; sa précision doit donc également être évaluée d'un point de vue statistique. C'est précisément ce que nous faisons. Nous publions des tests de performance internes pour chaque modèle Pangram que nous lançons, ainsi qu'à chaque fois qu'un laboratoire d'IA met à jour ses modèles de langage à grande échelle (LLM). Nous avons également fait l'objet de tests et de vérifications menés par des tiers indépendants, tels que des équipes de l'université de Chicago et de l'université du Maryland.

Si vous êtes chercheur – ou si vous avez une très bonne idée et que vous vous engagez à publier vos résultats –, vous pouvez postuler à l'une de nos bourses de crédits API et tester nos modèles par vous-même. Nous cherchons sans cesse à nous améliorer.