Pangram prevé que el 21 % de las reseñas de la ICLR sean generadas por IA

¿Están utilizando los autores los modelos de lenguaje grande (LLM) para redactar artículos de investigación sobre IA? ¿Están los revisores externalizando la redacción de sus reseñas de estos artículos a herramientas de IA generativa? Para averiguarlo, hemos analizado los 19 000 artículos y las 70 000 reseñas de la Conferencia Internacional sobre Representaciones de Aprendizaje (ICLR), uno de los foros de publicación de investigación en IA más importantes y prestigiosos. Gracias a OpenReview y al proceso de revisión público de la ICLR, todos los artículos y sus revisiones se pusieron a disposición del público en línea, y este proceso de revisión abierto hizo posible este análisis.

Hemos publicado todos los resultados en iclr.pangram.com.

¿Por qué estudiar las propuestas presentadas al ICLR?

Bueno, para empezar, ¡nos ofrecieron una recompensa!

El tuit de Graham Neubig en el que ofrece una recompensa por analizar las propuestas presentadas al ICLR

Hablando en serio, muchos autores y revisores de la ICLR han observado algunos casos de mala praxis científica flagrante relacionada con la IA, como un artículo generado por un modelo de lenguaje grande (LLM) con referencias totalmente inventadas, y muchos autores que afirman haber recibido revisiones generadas íntegramente por la IA.

¡Un autor llegó incluso a contar que un revisor planteó 40 preguntas generadas por IA en su revisión por pares!

Queríamos evaluar la magnitud de este problema en general: ¿se trata de casos aislados de mala conducta o son indicativos de una tendencia más amplia? ¡Por eso aceptamos la propuesta de Graham!

¿Se permite el uso de la IA en las propuestas presentadas a la ICLR y en la revisión por pares?

El ICLR cuenta con una política muy clara y detallada sobre lo que está permitido y lo que no en cuanto al uso de modelos de lenguaje grande (LLM) tanto en los artículos como en las revisiones.

Norma 1. Cualquier uso de un modelo de lenguaje natural (LLM) debe hacerse público, de conformidad con las disposiciones del Código Ético que establecen que «deben reconocerse todas las contribuciones a la investigación» y que los colaboradores «deben poder esperar […] recibir el reconocimiento correspondiente por su trabajo».

Política 2. Los autores y revisores de ICLR son los responsables últimos de sus contribuciones, de conformidad con la política del Código Ético, según la cual «los investigadores no deben realizar afirmaciones falsas o engañosas de forma deliberada, inventar o falsificar datos, ni tergiversar los resultados».

El ICLR también cuenta con unas directrices que los autores deben seguir al utilizar modelos de lenguaje grande (LLM) en sus artículos y revisiones. En resumen:

• Los autores pueden utilizar modelos de lenguaje grande (LLM) como ayuda para redactar sus artículos y como asistentes de investigación, pero deben informar de dicho uso y son responsables de la integridad científica de su artículo.
• Los autores pueden utilizar modelos de lenguaje grande (LLM) como ayuda ortográfica y gramatical en sus revisiones de artículos sobre LLM; sin embargo, el uso de un LLM para redactar la revisión en su totalidad podría constituir una infracción del Código Ético, tanto por presentar una opinión o punto de vista externo sobre el artículo como si fuera propio, como por violar la confidencialidad.

Por lo tanto, no llevamos a cabo este estudio con el fin de señalar a infractores concretos, ya que, en realidad, el uso de modelos de lenguaje grande (LLM) está permitido tanto en la presentación de artículos como en el proceso de revisión por pares. En cambio, queremos llamar la atención sobre el grado de uso de la IA en los artículos y en la revisión por pares, y destacar que las revisiones generadas íntegramente por IA (que, de hecho, probablemente constituyan infracciones del Código Ético) son un problema mucho más extendido de lo que muchos creen.

Metodología

En primer lugar, descargamos todos los archivos PDF de las propuestas presentadas a la ICLR mediante la API de OpenReview. También descargamos todas las notas, lo que nos permitió extraer la reseña.

Descubrimos que el uso de un analizador de PDF convencional, como PyMuPDF, resultaba insuficiente para los artículos de ICLR, ya que los números de línea, las imágenes y las tablas a menudo no se procesaban correctamente. Por lo tanto, para extraer el texto principal del artículo, utilizamos Mistral OCR para analizar el texto principal del artículo a partir del PDF como Markdown. Dado que la IA también tiende a preferir la salida en Markdown, con el fin de mitigar los falsos positivos derivados únicamente del formato, reformateamos posteriormente el Markdown como texto sin formato.

A continuación, aplicamos el clasificador de texto ampliado de Pangram al texto sin formato analizado de estos archivos PDF. La versión ampliada del clasificador divide primero el texto en segmentos y aplica el modelo de detección de IA a cada segmento por separado. El resultado es un porcentaje que indica cuántos segmentos han dado positivo como texto generado por IA, por lo que el resultado puede indicar que un artículo está escrito íntegramente por humanos, generado íntegramente por IA o es una mezcla, con algunos segmentos que dan positivo y otros que dan negativo.

También hemos analizado las revisiones por pares relacionadas con la IA utilizando nuestro nuevo modelo EditLens. EditLens no solo es capaz de detectar la presencia de IA, sino que también puede describir el grado de participación de la IA en el proceso de edición. EditLens puede predecir que un texto se encuadra en una de estas cinco categorías:

• Escrito íntegramente por personas
• Con una ligera edición mediante IA o con la ayuda de la IA
• Medio editado con IA o con ayuda de IA
• Con un alto grado de edición o asistencia por IA
• Generado íntegramente por IA

Actualmente, EditLens solo está disponible para los clientes de nuestra beta privada, pero se pondrá a disposición del público a principios de diciembre. En las próximas semanas daremos más detalles sobre este modelo, pero en nuestro preprint de investigación describimos su rendimiento como puntero en la generación de textos en coautoría y, en pruebas comparativas internas, presenta una precisión similar a la de nuestro modelo actual cuando se evalúa como clasificador binario, así como una tasa de falsos positivos excepcionalmente baja de 1 entre 10 000 en textos escritos íntegramente por humanos.

Resultados

En nuestro análisis anterior de los artículos de conferencias sobre IA, descubrimos que Pangram presenta una tasa de falsos positivos del 0 % en todos los artículos de ICLR y NeurIPS disponibles publicados antes de 2022. Aunque algunos de estos artículos se encuentran efectivamente en el conjunto de entrenamiento, no todos lo están; por lo tanto, creemos que el rendimiento real de Pangram en el conjunto de prueba se acerca mucho al 0 %.

¿Y qué hay de las revisiones por pares? Realizamos un experimento de control negativo adicional, en el que aplicamos el nuevo modelo de EditLens a las 2022 revisiones por pares. Encontramos una tasa de error de aproximadamente 1 entre 1000 en «Ligeramente editado» frente a «Totalmente humano», una tasa de error de 1 entre 5000 en «Medianamente editado» frente a «Totalmente humano», y una tasa de error de 1 entre 10 000 en «Muy editado» frente a «Totalmente humano». No encontramos confusiones entre «Totalmente generado por IA» y «Totalmente humano».

Distribución de las predicciones de EditLens en las revisiones de ICLR 2022 (control negativo)

En cuanto al experimento en sí, aplicamos Pangram a todos los artículos y revisiones por pares. Estas son las principales conclusiones:

Descubrimos que el 21 %, es decir, 15 899 reseñas, habían sido generadas íntegramente por IA. También observamos que más de la mitad de las reseñas contaban con algún tipo de intervención de la IA, ya fuera en forma de edición, asistencia o generación completa por parte de la IA.

Distribución de las predicciones de EditLens en las revisiones de ICLR 2026

Por otro lado, la mayoría de los artículos presentados siguen estando redactados principalmente por personas (el 61 % lo estaba). Sin embargo, encontramos varios cientos de artículos generados íntegramente por IA, aunque parecen ser casos aislados, y el 9 % de los artículos presentados contenía más del 50 % de contenido generado por IA. Cabe señalar que algunos de los artículos generados íntegramente por IA ya habían sido rechazados de forma preliminar y eliminados de OpenReview antes de que pudiéramos realizar el análisis.

Distribución del contenido sobre IA en los artículos presentados a ICLR 2026

Análisis

En los resultados hemos detectado algunas tendencias interesantes que arrojan luz sobre cómo se está utilizando la IA tanto en la presentación de artículos como en las revisiones por pares, y cuáles son las repercusiones de este uso en el propio proceso de revisión.

El uso de la IA en los artículos está relacionado con una menor puntuación en las revisiones

A diferencia de un estudio anterior que demostraba que los modelos de lenguaje grande (LLM) suelen preferir sus propios resultados a los escritos por humanos cuando se les utiliza como evaluadores, nosotros observamos lo contrario: cuanto mayor es la proporción de texto generado por IA en un trabajo presentado, peores son las valoraciones.

Puntuaciones medias de las reseñas según el contenido de IA en los artículos

Esto podría deberse a múltiples razones. Una de ellas es que, cuanto más se utiliza la IA en un artículo, menos bien planteado y ejecutado resulta este en su conjunto. Es posible que, cuando se recurre a la IA en la redacción científica, se utilice con mayor frecuencia para descargar trabajo y tomar atajos, en lugar de como una herramienta complementaria. Además, el hecho de que los artículos generados íntegramente por IA reciban puntuaciones más bajas podría indicar que la investigación generada por IA sigue siendo de baja calidad y no supone (todavía) una contribución real a la ciencia.

Las reseñas generadas por IA obtienen puntuaciones más altas

Puntuaciones medias de las reseñas según el nivel de participación de la IA

Hemos observado que, cuanto mayor es la presencia de la IA en una revisión, mayor es la puntuación. Esto es problemático: significa que, en lugar de reformular la propia opinión del revisor utilizando la IA como marco de referencia (si fuera así, cabría esperar que la puntuación media fuera la misma para las revisiones realizadas por IA y las realizadas por humanos), los revisores están, de hecho, delegando también en la IA el juicio sobre el artículo. Presentar la opinión del LLM como si fuera la opinión real del revisor constituye una clara violación del Código Ético. Sabemos que la IA tiende a ser aduladora, lo que significa que dice cosas que la gente quiere oír y que son agradables, en lugar de ofrecer una opinión imparcial: ¡una característica totalmente indeseable cuando se aplica a la revisión por pares! Esto podría explicar el sesgo positivo en las puntuaciones de las revisiones realizadas por IA.

Las reseñas generadas por IA son más largas

Longitud media de las reseñas según el nivel de participación de la IA

Antes, una reseña más extensa solía indicar que estaba bien elaborada y era de mayor calidad, pero en la era de los modelos de lenguaje grande (LLM), a menudo puede significar todo lo contrario. Las reseñas generadas por IA son más largas y contienen mucho «contenido de relleno». Según Shaib et al., en un artículo de investigación titulado «Measuring AI Slop in Text», una de las características del «slop» de la IA es que tiene una baja densidad de información, lo que significa que la IA utiliza muchas palabras para decir muy poco en términos de contenido real.

Esto también lo observamos en las revisiones de los modelos de lenguaje grande (LLM): la IA utiliza muchas palabras, pero en realidad no ofrece comentarios con una gran densidad de información. Sostenemos que esto es problemático porque los autores tienen que perder tiempo analizando una reseña larga y respondiendo a preguntas vacías que, en realidad, no contienen comentarios muy útiles. También vale la pena mencionar que la mayoría de los autores probablemente pedirán a un modelo de lenguaje grande una reseña de su trabajo antes de enviarlo. En estos casos, los comentarios de una reseña de LLM son en gran medida redundantes e inútiles, ya que el autor ya ha visto las críticas obvias que hará un LLM.

¿Hay acusaciones falsas?

Aunque la tasa de falsos positivos de Pangram es extremadamente baja, no es nula, por lo que tenemos la responsabilidad de cuantificar la fiabilidad de la herramienta antes de recomendarla para tomar decisiones concretas sobre el destino de un artículo (como una decisión de rechazo a primera vista) o sancionar a un revisor. Hemos medido directamente la tasa de falsos positivos dentro del dominio utilizando los estudios de control negativo descritos anteriormente, pero ¿qué ocurre con otros conjuntos de datos, pruebas de referencia y textos generales?

En esta entrada anterior del blog documentamos la tasa de falsos positivos de Pangram.

• La tasa global de falsos positivos de Pangram es de 1 por cada 10 000 documentos del conjunto de prueba.
• La tasa de falsos positivos de Pangram en los artículos científicos de ArXiV que se han dejado fuera de la muestra es de 1 entre 100 000.
• La tasa de falsos positivos de Pangram en los artículos médicos de PubMed utilizados como prueba de validación es de 0 (con un nivel de confianza de tres decimales).

La precisión de Pangram también ha sido validada por múltiples estudios independientes, entre ellos los realizados recientemente por la UChicago Booth y la Asociación Americana para la Investigación del Cáncer.

Para poner estas cifras en contexto, la tasa de falsos positivos de Pangram es comparable a la de las pruebas de ADN o a la de los controles de drogas: un falso positivo real, en el que un texto generado íntegramente por IA se confunde con uno escrito íntegramente por un humano, no es inexistente, pero es extremadamente raro.

¿Cómo puedes saber si has recibido una revisión por pares realizada por IA?

Si eres un autor y sospechas que has recibido una reseña generada por IA, hay varios indicios reveladores en los que puedes fijarte. Aunque Pangram puede detectar textos generados por IA, también puedes identificar a simple vista los indicios de las reseñas generadas por IA.

Hemos elaborado una guía general para detectar a simple vista los patrones de redacción propios de la IA, pero hemos observado que existen algunas señales e indicios adicionales que se dan específicamente en las revisiones por pares realizadas por IA.

Algunos de los «indicios» que observamos en las revisiones por pares de la IA:

• Estilos de encabezado: A las revisiones por pares generadas por IA les encanta crear encabezados de sección en negrita con etiquetas resumidas de 2 o 3 palabras seguidas de dos puntos. Por ejemplo:

Puntos fuertes: Formulación clara del problema: el artículo aborda un problema real: los sistemas de OCR basados en VLM generan resultados erróneos en documentos deteriorados sin indicar la incertidumbre, lo cual es peor que los sistemas de OCR clásicos, que producen resultados claramente distorsionados. La motivación está bien expuesta. Metodología sistemática: El enfoque de entrenamiento en dos etapas (arranque en frío con pseudoetiquetas + GRPO) es razonable y está bien descrito. El diseño de recompensas multiobjetivo con medidas de seguridad contra el «reward hacking» (especialmente el factor de amortiguación η para la discrepancia de longitud) demuestra una ingeniería cuidadosa.

Preguntas: 1. Generalización a degradaciones reales: ¿Pueden los autores realizar evaluaciones con documentos degradados del mundo real (por ejemplo, conjuntos de datos de documentos históricos) para demostrar que el enfoque se generaliza más allá del proceso específico de degradación sintética? 2. Comparación con los sistemas MinerU: MinerU y MinerU2.5 [2,3] representan avances recientes en el análisis sintáctico de documentos. ¿Cómo se compara el método propuesto con estos sistemas en Blur-OCR? Si estos sistemas no pueden producir estimaciones de incertidumbre, ¿pueden combinarse con el enfoque de etiquetado propuesto?

• Criticas superficiales en lugar de un análisis genuino: las revisiones generadas por IA tienden a centrarse en cuestiones superficiales en lugar de en preocupaciones reales sobre la integridad científica del artículo. Las críticas típicas de la IA pueden incluir la necesidad de realizar más ablaciones muy similares a las presentadas, la solicitud de aumentar el tamaño del conjunto de prueba o el número de controles, o la petición de más aclaraciones o ejemplos.

• Decir muchas palabras que dicen muy poco: las reseñas generadas por IA suelen tener poca densidad informativa, ya que utilizan un lenguaje prolijo para expresar ideas que podrían plantearse de forma más concisa. Esta prolijidad supone un trabajo adicional para los autores, que deben analizar reseñas extensas para extraer las críticas sustantivas reales.

¿Por qué los artículos sobre IA y las revisiones por pares en este campo son perjudiciales para el proceso científico?

A principios de este año, investigadores de la UNIST de Corea publicaron un documento de posición en el que exponen algunas de las razones del deterioro de la calidad del proceso de revisión por pares. A medida que el campo de la inteligencia artificial sigue creciendo, la presión a la que se ve sometido el sistema de revisión por pares está empezando a dejar ver sus fisuras. El número de revisores cualificados es simplemente insuficiente para hacer frente al aumento vertiginoso del número de artículos.

El mayor problema de los artículos de baja calidad generados por IA es que, sencillamente, suponen una pérdida de tiempo y recursos que son limitados. Según nuestro análisis, los artículos generados por IA simplemente no son tan buenos como los escritos por personas y, lo que es aún más preocupante, pueden ser generados a bajo coste por revisores deshonestos y «fábricas de artículos» que aplican la estrategia de «lanzar y rezar» (enviar un gran volumen de propuestas a una conferencia con la esperanza de que alguna sea aceptada por casualidad). Si se permite que los artículos generados por IA inunden el sistema de revisión por pares, la calidad de la revisión seguirá disminuyendo y los revisores estarán menos motivados al tener que leer artículos «de mala calidad» en lugar de investigaciones reales.

Entender por qué las reseñas generadas por IA pueden resultar perjudiciales es un tema algo más complejo. Coincidimos con la ICLR en que la IA puede utilizarse de forma positiva como herramienta de apoyo para ayudar a los revisores a expresar mejor sus ideas, especialmente cuando el inglés no es su lengua materna. Además, la IA a menudo puede proporcionar comentarios realmente útiles, y suele resultar productivo para los autores simular el proceso de revisión por pares con modelos de lenguaje grande (LLM), para que estos critiquen y pongan en tela de juicio la investigación, y detecten fallos y errores que el autor quizá no haya detectado inicialmente.

Sin embargo, la pregunta sigue en el aire: si la IA puede generar comentarios útiles, ¿por qué deberíamos prohibir las reseñas generadas íntegramente por la IA? El economista de la Universidad de Chicago Alex Imas resume la cuestión fundamental en un tuit reciente: la respuesta depende de si queremos que el juicio humano forme parte de la revisión científica por pares.

Tuit de Alex Imas sobre las reseñas generadas por IA

Si creemos que los modelos actuales de IA son suficientes para sustituir por completo el criterio humano, entonces las conferencias deberían simplemente automatizar todo el proceso de revisión: introducir los artículos en un modelo de lenguaje grande (LLM) y asignar puntuaciones automáticamente. Pero si creemos que el criterio humano debe seguir formando parte del proceso, entonces hay que prohibir el contenido generado íntegramente por IA. Imas identifica dos problemas clave: en primer lugar, un equilibrio de agrupación en el que el contenido generado por IA (al ser más fácil de producir) desplazará rápidamente el juicio humano en pocos ciclos de revisión; y, en segundo lugar, un problema de verificación en el que determinar si una revisión de IA es realmente buena requiere el mismo esfuerzo que revisar el artículo uno mismo; así pues, si los LLM pueden generar mejores revisiones que los humanos, ¿por qué no automatizar todo el proceso?

En mi opinión, las valoraciones humanas son complementarias, pero aportan un valor distinto al de las revisiones de la IA. A menudo, los seres humanos pueden aportar comentarios que se salen de lo habitual y que quizá no resulten evidentes a primera vista. Las opiniones de los expertos son más útiles que los modelos de lenguaje grande (LLM), ya que se basan en la experiencia, el contexto y una perspectiva que se ha ido perfeccionando con el tiempo. Los LLM son potentes, pero sus revisiones suelen carecer de buen gusto y criterio, por lo que resultan «superficiales».

Quizás en el futuro las conferencias puedan incluir la revisión del modelo de lenguaje grande (LLM) de última generación junto a las revisiones humanas, para garantizar que estas últimas no se limiten a repetir las críticas «obvias» que podría señalar un LLM.

Conclusión

El auge de los contenidos generados por IA en la revisión por pares académica supone un reto crucial para la comunidad científica. Nuestro análisis muestra que las revisiones por pares generadas íntegramente por IA representan una proporción significativa del conjunto de revisiones de la ICLR, y que el número de artículos generados por IA también está aumentando. Sin embargo, estos artículos generados por IA suelen ser, en la mayoría de los casos, trabajos de baja calidad en lugar de auténticas contribuciones a la investigación.

Consideramos que esta tendencia es problemática y perjudicial para la ciencia, y hacemos un llamamiento a los organizadores de congresos y a las editoriales para que adopten la detección mediante IA como solución para disuadir los abusos y preservar la integridad científica.