Selon Pangram, 21 % des articles publiés dans ICLR seraient générés par l'IA

Les auteurs ont-ils recours aux grands modèles de langage (LLM) pour rédiger leurs articles de recherche en IA ? Les évaluateurs externalisent-ils la rédaction de leurs évaluations de ces articles à des outils d'IA générative ? Pour le savoir, nous avons analysé l'ensemble des 19 000 articles et 70 000 évaluations issus de la Conférence internationale sur l'apprentissage des représentations (ICLR), l'une des instances de publication les plus importantes et les plus prestigieuses dans le domaine de la recherche en IA. Grâce à OpenReview et au processus de révision public de l'ICLR, tous les articles et leurs évaluations ont été mis à la disposition du public en ligne, et ce processus de révision ouvert a permis cette analyse.

Nous avons mis tous les résultats à la disposition du public sur iclr.pangram.com.

Pourquoi étudier les contributions à l'ICLR ?

Eh bien, pour commencer, on nous a proposé une prime!

Le tweet de Graham Neubig proposant une récompense pour l'analyse des contributions à l'ICLR

Pour parler sérieusement, de nombreux auteurs et évaluateurs de l'ICLR ont constaté plusieurs cas flagrants de fraude scientifique liée à l'IA, comme un article généré par un grand modèle de langage (LLM) contenant des références totalement inventées, et de nombreux auteurs affirmant avoir reçu des évaluations entièrement générées par l'IA.

Un auteur a même rapporté qu'un évaluateur avait posé 40 questions générées par l'IA lors de son examen par les pairs !

Nous voulions évaluer l'ampleur globale de ce problème : ces exemples de mauvais comportement constituent-ils des incidents isolés, ou sont-ils révélateurs d'une tendance plus générale ? C'est pourquoi nous avons accepté la proposition de Graham !

L'IA est-elle autorisée dans les soumissions à l'ICLR et dans le cadre de l'évaluation par les pairs ?

L'ICLR dispose d'une politique très claire et détaillée concernant ce qui est autorisé et ce qui ne l'est pas en matière d'utilisation des modèles de langage de grande envergure (LLM) dans les articles et les évaluations.

Règle n° 1. Toute utilisation d'un modèle de langage artificiel (LLM) doit être mentionnée, conformément aux dispositions du code de déontologie stipulant que « toutes les contributions à la recherche doivent être reconnues » et que les contributeurs « doivent pouvoir s'attendre à […] voir leur travail reconnu ».

Politique n° 2. Les auteurs et les évaluateurs de l'ICLR sont responsables en dernier ressort de leurs contributions, conformément au code de déontologie qui stipule que « les chercheurs ne doivent pas faire délibérément des déclarations fausses ou trompeuses, inventer ou falsifier des données, ni présenter les résultats de manière erronée ».

L'ICLR a également publié des lignes directrices que les auteurs doivent respecter lorsqu'ils utilisent des modèles de langage de grande envergure (LLM) dans leurs articles et leurs évaluations. En résumé :

• Les auteurs sont autorisés à utiliser des modèles de langage de grande envergure (LLM) pour les aider à rédiger leurs articles et comme assistants de recherche, mais ils doivent signaler cette utilisation et sont responsables de l'intégrité scientifique de leur article.
• Les auteurs sont autorisés à utiliser des modèles de langage génératif (LLM) pour les aider à vérifier l'orthographe et la grammaire dans leurs évaluations de ces modèles, mais le recours à un LLM pour rédiger l'intégralité de l'évaluation constitue potentiellement une violation du code de déontologie, tant parce qu'il s'agit de faire passer une opinion ou un point de vue externe sur l'article pour le sien que parce qu'il s'agit d'une violation de la confidentialité.

Nous ne menons donc pas cette étude dans le but de pointer du doigt des contrevenants individuels, car les modèles de langage génératifs (LLM) sont en réalité autorisés tant dans la soumission des articles que dans le processus d'évaluation par les pairs. Nous souhaitons plutôt attirer l'attention sur l'ampleur de l'utilisation de l'IA dans les articles et l'évaluation par les pairs, et souligner que les évaluations entièrement générées par l'IA (qui, en effet, sont susceptibles de constituer des violations du code de déontologie) constituent un problème bien plus répandu que beaucoup ne le pensent.

Méthodologie

Nous avons tout d'abord téléchargé tous les fichiers PDF des contributions à l'ICLR à l'aide de l'API OpenReview. Nous avons également téléchargé toutes les notes, ce qui nous a permis d'extraire les commentaires.

Nous avons constaté qu'un analyseur de PDF classique tel que PyMuPDF s'avérait insuffisant pour les articles de l'ICLR, car les numéros de ligne, les images et les tableaux n'étaient souvent pas traités correctement. Par conséquent, afin d'extraire le corps du texte de l'article, nous avons utilisé Mistral OCR pour analyser le corps du texte à partir du PDF au format Markdown. Étant donné que l'IA a également tendance à privilégier les sorties au format Markdown, nous avons ensuite reformaté le Markdown en texte brut afin de réduire les faux positifs dus uniquement à la mise en forme.

Nous avons ensuite appliqué le classificateur de texte étendu de Pangram au texte brut analysé issu de ces fichiers PDF. La version étendue du classificateur divise d'abord le texte en segments, puis applique le modèle de détection de l'IA à chaque segment individuellement. Le résultat est un pourcentage indiquant combien de segments ont été identifiés comme du texte généré par l'IA ; ainsi, le résultat peut indiquer qu'un article a été entièrement rédigé par un humain, entièrement généré par l'IA, ou qu'il s'agit d'un mélange, certains segments étant identifiés comme positifs et d'autres comme négatifs.

Nous avons également examiné les évaluations par les pairs concernant l'IA à l'aide de notre nouveau modèle EditLens. EditLens est capable non seulement de détecter la présence de l'IA, mais aussi de décrire dans quelle mesure celle-ci a été impliquée dans le processus d'édition. EditLens peut prédire si un texte relève de l'une des cinq catégories suivantes :

• Entièrement rédigé par des humains
• Légèrement retouché par l'IA ou avec l'aide de l'IA
• Modéré : édité par une IA ou avec l'aide d'une IA
• Fortement modifié ou assisté par l'IA
• Entièrement généré par l'IA

EditLens n'est actuellement accessible qu'aux clients participant à notre bêta privée, mais sera accessible au grand public début décembre. Nous vous en dirons plus sur ce modèle dans les semaines à venir, mais dans notre prépublication de recherche, nous décrivons ses performances comme étant à la pointe de la technologie en matière de génération de textes co-rédigés. D'après nos tests de performance internes, il affiche une précision similaire à celle de notre modèle actuel lorsqu'il est évalué en tant que classificateur binaire, ainsi qu'un taux de faux positifs exceptionnellement bas (1 sur 10 000) sur des textes entièrement rédigés par des humains.

Résultats

Dans notre précédente analyse des articles de conférences sur l'IA, nous avons constaté que Pangram affichait un taux de faux positifs de 0 % sur l'ensemble des articles ICLR et NeurIPS disponibles publiés avant 2022. Si certains de ces articles figurent effectivement dans l'ensemble d'apprentissage, ce n'est pas le cas de tous ; nous estimons donc que les performances réelles de Pangram sur l'ensemble de test sont en réalité très proches de 0 %.

Qu'en est-il des évaluations par les pairs ? Nous avons mené une expérience supplémentaire de contrôle négatif, dans laquelle nous avons appliqué le nouveau modèle EditLens à l'ensemble des évaluations par les pairs de 2022. Nous constatons un taux d'erreur d'environ 1 sur 1 000 pour la catégorie « Légèrement édité » par rapport à « Entièrement humain », un taux d'erreur de 1 sur 5 000 pour la catégorie « Modérément édité » par rapport à « Entièrement humain », et un taux d'erreur de 1 sur 10 000 pour la catégorie « Fortement édité » par rapport à « Entièrement humain ». Nous ne constatons aucune confusion entre les textes « Entièrement générés par l'IA » et « Entièrement humains ».

Répartition des prédictions d'EditLens sur les évaluations de l'ICLR 2022 (contrôle négatif)

Pour l'expérience proprement dite, nous avons appliqué Pangram à l'ensemble des articles et des évaluations par les pairs. Voici les principales conclusions :

Nous avons constaté que 21 %, soit 15 899 avis, avaient été entièrement générés par l'IA. Nous avons également constaté que plus de la moitié des avis avaient fait l'objet d'une intervention de l'IA, qu'il s'agisse d'une révision, d'une assistance ou d'une génération entièrement automatisée.

Répartition des prédictions d'EditLens sur les évaluations de l'ICLR 2026

En revanche, les articles soumis sont encore majoritairement rédigés par des humains (61 % l'étaient en grande partie). Nous avons toutefois recensé plusieurs centaines d'articles entièrement générés par l'IA, même s'il semble s'agir de cas isolés, et 9 % des soumissions comportaient plus de 50 % de contenu généré par l'IA. Il convient toutefois de noter que certains articles entièrement générés par l'IA avaient déjà été rejetés d'emblée et retirés d'OpenReview avant que nous ayons eu l'occasion de mener notre analyse.

Répartition des contenus liés à l'IA dans les articles soumis à l'ICLR 2026

Analyse

Nous avons relevé dans ces résultats certaines tendances intéressantes qui mettent en lumière la manière dont l'IA est utilisée tant dans la soumission des articles que dans l'évaluation par les pairs, ainsi que les répercussions de cette utilisation sur le processus d'évaluation lui-même.

L'utilisation de l'IA dans les articles est associée à des notes de notation plus faibles

Contrairement à une étude précédente qui montrait que les grands modèles de langage (LLM) préfèrent souvent leurs propres productions à l'écriture humaine lorsqu'ils sont utilisés comme évaluateurs, nous constatons l'inverse : plus un texte contient de passages générés par l'IA, plus les évaluations sont négatives.

Notes moyennes attribuées aux contenus générés par l'IA dans les articles

Cela peut s'expliquer par plusieurs raisons. L'une d'elles est que plus l'IA est utilisée dans un article, moins celui-ci est globalement bien pensé et bien rédigé. Il est possible que, dans le domaine de la rédaction scientifique, l'IA serve plus souvent à se décharger de certaines tâches et à prendre des raccourcis qu'à apporter une aide complémentaire. De plus, le fait que les articles entièrement générés par l'IA obtiennent des notes plus faibles indique potentiellement que la recherche générée par l'IA est encore de mauvaise qualité et ne constitue pas (pour l'instant) une véritable contribution à la science.

Les avis générés par l'IA obtiennent des notes plus élevées

Notes moyennes des avis en fonction du niveau d'implication de l'IA

Nous constatons que plus l'IA est présente dans une évaluation, plus la note est élevée. Cela pose problème : cela signifie qu'au lieu de reformuler leur propre opinion en s'appuyant sur l'IA comme cadre de référence (si tel était le cas, on s'attendrait à ce que la note moyenne soit identique pour les évaluations réalisées par l'IA et celles réalisées par des humains), les évaluateurs confient en réalité le jugement de l'article à l'IA elle-même. Présenter l'opinion du LLM comme étant l'opinion réelle du réviseur constitue une violation flagrante du Code de déontologie. Nous savons que l'IA a tendance à être flagorneuse, ce qui signifie qu'elle dit ce que les gens veulent entendre et ce qui leur fait plaisir plutôt que de donner une opinion impartiale : une caractéristique tout à fait indésirable lorsqu'elle est appliquée à l'évaluation par les pairs ! Cela pourrait expliquer le biais positif observé dans les notes attribuées par les évaluations basées sur l'IA.

Les critiques générées par l'IA sont plus longues

Longueur moyenne des avis en fonction du niveau d'intervention de l'IA

Autrefois, un avis plus long était synonyme d'un contenu bien pensé et de meilleure qualité, mais à l'ère des modèles de langage (LLM), cela peut souvent signifier le contraire. Les avis générés par l'IA sont plus longs et contiennent beaucoup de « contenu de remplissage ». Selon Shaib et al., dans un article de recherche intitulé « Measuring AI Slop in Text », l'une des caractéristiques du « contenu de remplissage » généré par l'IA est sa faible densité d'informations, ce qui signifie que l'IA utilise beaucoup de mots pour dire très peu de choses en termes de contenu réel.

Nous constatons que c'est également le cas dans les évaluations des modèles de langage de grande envergure (LLM) : l'IA utilise beaucoup de mots, mais ne fournit pas pour autant de commentaires particulièrement riches en informations. Nous estimons que cela pose problème, car les auteurs doivent perdre du temps à décortiquer une longue évaluation et à répondre à des questions vides de sens qui ne contiennent en réalité pas beaucoup de commentaires utiles. Il convient également de mentionner que la plupart des auteurs demanderont probablement à un grand modèle linguistique d'évaluer leur soumission avant de la soumettre. Dans ces cas-là, les commentaires issus d'une évaluation par un LLM sont en grande partie redondants et inutiles, car l'auteur a déjà pris connaissance des critiques évidentes que le LLM formulera.

Y a-t-il des accusations infondées ?

Bien que le taux de faux positifs de Pangram soit extrêmement faible, il n'est pas nul ; nous avons donc la responsabilité de quantifier la fiabilité de l'outil avant de le recommander pour prendre des décisions concrètes concernant le sort d'un article (comme un rejet d'office) ou pour sanctionner un évaluateur. Nous avons mesuré directement le taux de faux positifs dans le domaine concerné à l'aide des études de contrôle négatif décrites ci-dessus, mais qu'en est-il sur d'autres ensembles de données, sur des benchmarks et sur des textes généraux ?

Nous avons présenté le taux de faux positifs de Pangram dans un précédent article de blog.

• Le taux global de faux positifs de Pangram est de 1 sur 10 000 sur les documents de l'ensemble de test.
• Le taux de faux positifs de Pangram sur les articles scientifiques non inclus provenant d'ArXiv est de 1 sur 100 000.
• Le taux de faux positifs de Pangram sur les articles médicaux non utilisés provenant de PubMed est de 0 (avec un niveau de confiance de 3 décimales).

La fiabilité de Pangram a également été confirmée par plusieurs études menées par des organismes indépendants, notamment des études récentes de l'UChicago Booth et de l'Association américaine pour la recherche sur le cancer.

Pour replacer ces chiffres dans leur contexte, le taux de faux positifs de Pangram est comparable à celui des tests ADN ou des dépistages de drogues : un véritable faux positif, c'est-à-dire le cas où un texte entièrement généré par l'IA est confondu avec un texte entièrement rédigé par un humain, n'est pas nul, mais extrêmement rare.

Comment savoir si vous avez fait l'objet d'une évaluation par les pairs réalisée par une IA ?

Si vous êtes un auteur et que vous pensez avoir reçu un commentaire généré par une IA, il existe plusieurs indices révélateurs que vous pouvez rechercher. Bien que Pangram soit capable de détecter les textes générés par une IA, vous pouvez également repérer les signes caractéristiques des commentaires générés par une IA à l'œil nu.

Nous avons élaboré un guide général permettant de repérer à l'œil nu les schémas de rédaction propres à l'IA, mais nous avons remarqué que certains indices et repères supplémentaires apparaissent spécifiquement dans les évaluations par les pairs réalisées par l'IA.

Voici quelques-uns des « indices » que nous relevons lors des évaluations par les pairs dans le domaine de l'IA :

• Styles d'en-têtes : les évaluations par les pairs générées par l'IA ont tendance à créer des en-têtes de section en gras, accompagnés d'un résumé de 2 à 3 mots suivi d'un deux-points. Par exemple :

Points forts : Formulation claire du problème: l'article traite d'un problème concret : les systèmes d'OCR basés sur les modèles de langage vectoriel (VLM) produisent des résultats erronés sur des documents endommagés sans signaler d'incertitude, ce qui est pire que les systèmes d'OCR classiques qui génèrent des résultats manifestement déformés. La motivation est bien exposée. Méthodologie systématique: l'approche d'apprentissage en deux étapes (démarrage à froid pseudo-étiqueté + GRPO) est raisonnable et bien décrite. La conception de la récompense multi-objectifs, assortie de mesures de protection contre le piratage de la récompense (en particulier le facteur d'amortissement η en cas de discordance de longueur), témoigne d'une ingénierie rigoureuse.

Questions : 1. Généralisation à des dégradations réelles: les auteurs peuvent-ils effectuer des évaluations sur des documents dégradés issus du monde réel (par exemple, des ensembles de données de documents historiques) afin de démontrer que l'approche s'applique au-delà du pipeline spécifique de dégradation synthétique ? 2. Comparaison avec les systèmes MinerU: MinerU et MinerU2.5 [2,3] représentent des avancées récentes dans le domaine de l'analyse syntaxique des documents. Comment la méthode proposée se compare-t-elle à ces systèmes sur Blur-OCR ? Si ces systèmes ne peuvent pas produire d'estimations d'incertitude, peuvent-ils être combinés avec l'approche de balisage proposée ?

• Des remarques insignifiantes plutôt qu’une véritable analyse : les évaluations générées par l’IA ont tendance à se concentrer sur des aspects superficiels plutôt que sur de réelles préoccupations concernant l’intégrité scientifique de l’article. Les critiques typiques formulées par l’IA peuvent notamment porter sur la nécessité de réaliser davantage d’ablations très similaires à celles présentées, sur la demande d’augmenter la taille de l’ensemble de test ou le nombre de contrôles, ou encore sur la demande de précisions supplémentaires ou d’exemples supplémentaires.

• Beaucoup de mots pour dire très peu de choses : les critiques générées par l'IA se caractérisent souvent par une faible densité d'informations, utilisant un langage verbeux pour exprimer des idées qui pourraient être formulées de manière plus concise. Cette verbosité alourdit la tâche des auteurs, qui doivent passer au crible de longues critiques pour en extraire les remarques constructives.

Pourquoi les articles sur l'IA et les évaluations par les pairs dans ce domaine nuisent-ils au processus scientifique ?

Au début de cette année, des chercheurs de l'UNIST en Corée ont publié un document de synthèse dans lequel ils exposent certaines des raisons expliquant la baisse de qualité du processus d'évaluation par les pairs. À mesure que le domaine de l'IA ne cesse de se développer, la pression exercée sur le système d'évaluation par les pairs commence inévitablement à se faire sentir. Le nombre de réviseurs qualifiés est tout simplement insuffisant face à l'augmentation explosive du nombre d'articles.

Le principal problème posé par les articles de mauvaise qualité générés par l'IA est qu'ils ne font que gaspiller du temps et des ressources qui sont limités. D'après notre analyse, les articles générés par l'IA ne sont tout simplement pas aussi bons que ceux rédigés par des humains ; pire encore, ils peuvent être produits à moindre coût par des évaluateurs malhonnêtes et des usines à articles qui recourent à la stratégie du « spray and pray » (soumettre un grand nombre d'articles à une conférence dans l'espoir que l'un d'entre eux soit accepté par hasard). Si l'on laisse les articles générés par l'IA inonder le système d'évaluation par les pairs, la qualité de l'évaluation continuera de baisser, et les évaluateurs seront moins motivés à l'idée de devoir lire des articles « bâclés » au lieu de véritables travaux de recherche.

Comprendre pourquoi les évaluations générées par l'IA peuvent être préjudiciables est un peu plus complexe. Nous partageons l'avis de l'ICLR selon lequel l'IA peut être utilisée de manière positive, en tant qu'outil d'aide, pour permettre aux évaluateurs de mieux formuler leurs idées, en particulier lorsque l'anglais n'est pas leur langue maternelle. De plus, l'IA peut souvent fournir des commentaires véritablement utiles, et il est souvent productif pour les auteurs de simuler le processus d'évaluation par les pairs avec des modèles de langage (LLM), afin que ceux-ci critiquent et remettent en question la recherche, et détectent des erreurs que l'auteur n'aurait peut-être pas repérées initialement.

La question demeure toutefois : si l'IA est capable de générer des commentaires utiles, pourquoi devrions-nous interdire les évaluations entièrement générées par l'IA ? Alex Imas, économiste à l'université de Chicago, met le doigt sur le cœur du problème dans un tweet récent: la réponse dépend de notre volonté ou non d'intégrer le jugement humain dans l'évaluation scientifique par les pairs.

Tweet d'Alex Imas sur les avis générés par l'IA

Si l’on estime que les modèles d’IA actuels suffisent à remplacer entièrement le jugement humain, les conférences devraient alors simplement automatiser l’ensemble du processus d’évaluation : il suffirait de soumettre les articles à un modèle de langage de grande envergure (LLM) et d’attribuer automatiquement des notes. Mais si l’on estime que le jugement humain doit continuer à faire partie du processus, alors les contenus entièrement générés par l’IA doivent être sanctionnés. Imas identifie deux problèmes clés : premièrement, un équilibre de regroupement où le contenu généré par l'IA (plus facile à produire) évincera rapidement le jugement humain en quelques cycles d'évaluation ; et deuxièmement, un problème de vérification où déterminer si une évaluation par l'IA est réellement bonne nécessite le même effort que d'évaluer l'article soi-même — alors si les LLM peuvent générer de meilleures évaluations que les humains, pourquoi ne pas automatiser l'ensemble du processus ?

À mon avis, les jugements humains sont complémentaires et apportent une valeur ajoutée distincte aux évaluations générées par l'IA. Les humains sont souvent capables de formuler des commentaires hors cadre qui ne sautent pas immédiatement aux yeux. Les avis d'experts sont plus utiles que ceux des modèles de langage grand public (LLM), car ils s'appuient sur l'expérience, le contexte et une perspective affinée au fil du temps. Les LLM sont puissants, mais leurs évaluations manquent souvent de finesse et de discernement, ce qui les rend « plates ».

Peut-être que, à l'avenir, les conférences pourraient présenter l'analyse du modèle de langage de pointe (LLM) parallèlement aux analyses humaines, afin de s'assurer que ces dernières ne se contentent pas de reprendre les critiques « évidentes » que pourrait soulever un LLM.

Conclusion

L'essor des contenus générés par l'IA dans le cadre de l'évaluation par les pairs dans le milieu universitaire représente un défi majeur pour la communauté scientifique. Notre analyse montre que les évaluations par les pairs entièrement générées par l'IA représentent une part importante de l'ensemble des évaluations de l'ICLR, et que le nombre d'articles générés par l'IA est également en hausse. Pourtant, ces articles générés par l'IA relèvent le plus souvent de la médiocrité plutôt que de véritables contributions à la recherche.

Nous estimons que cette tendance est problématique et préjudiciable à la science, et nous appelons les organisateurs de conférences et les éditeurs à adopter la détection par IA comme solution pour lutter contre les abus et préserver l'intégrité scientifique.