Informe técnico sobre la detección de textos generados por IA con alta precisión

Proceso de entrenamiento del clasificador de textos generados por IA de Pangram Labs

Introducción

En Pangram Labs, estamos desarrollando el mejor modelo de detección de texto basado en IA para proteger Internet de la avalancha de contenidos falsos, engañosos y de baja calidad. Creemos que, en un mundo impulsado por los modelos de lenguaje grandes (LLM), las personas deberán contar con las mejores herramientas para identificar la verdad, y queremos ofrecer la tecnología adecuada para satisfacer esa necesidad.

Pangram Labs ha desarrollado un clasificador de gran precisión para detectar textos generados por IA que podrían utilizarse en spam o contenido fraudulento. ¿En qué medida es nuestro modelo superior a las alternativas existentes? En esta entrada del blog, presentamos un análisis exhaustivo del rendimiento de nuestro modelo, acompañado de nuestro primer informe técnico público.

En esta entrada del blog se tratarán varios temas:

• ¿Por qué es tan importante la detección de textos generados por IA?
• ¿Cuál es el mejor detector de contenido generado por IA?
• ¿Por qué es importante una alta precisión?
• ¿Qué tipo de contenido puede detectar Pangram Labs?
• ¿Cómo abordó Pangram Labs la resolución de este problema?

Para obtener información más detallada y técnica, incluida la metodología, consulte nuestro informe técnico sobre el clasificador de textos generados por IA de Pangram.

En resumen

Llevamos a cabo una evaluación comparativa con casi 2000 documentos para determinar los principales indicadores de precisión, entre los que se incluyen la precisión global, los falsos positivos y los falsos negativos.

Our text classifier outperforms academic methods and shows significantly lower error rates in a comprehensive benchmark against other available AI text detection methods. Our model demonstrates 99.85% accuracy with 0.19% false positive rate across thousands of examples across ten different categories of writing and eight commonly used large language models. Other methods fail on more capable LLMs such as GPT-4 (<=75% accuracy) while Pangram Labs sustains 99-100% accuracy across all language models tested.

Comparación de la precisión general

Introducción al texto generado por IA

Los modelos de lenguaje a gran escala (LLM), como ChatGPT, experimentaron un auge de popularidad en 2023, cuando las capacidades de la IA alcanzaron un punto de inflexión. Los LLM que impulsan los asistentes de IA podían responder preguntas, aportar ideas y redactar contenidos, todo ello con un tono que resultaba convincentemente humano. Esto ha dado lugar a algunos resultados positivos: la información es más accesible que nunca y los asistentes nos permiten ahorrar tiempo en tareas rutinarias. Sin embargo, cualquiera es capaz de generar textos que suenan convincentemente humanos sin apenas esfuerzo, lo que tiene sus propios inconvenientes. Los spammers pueden escribir correos electrónicos más difíciles de filtrar. Los vendedores de mercados online pueden generar miles de reseñas de aspecto auténtico en cuestión de minutos. Los malos actores pueden recurrir a las redes sociales e influir en la opinión pública con miles de bots impulsados por LLM.

Lamentablemente, estos riesgos sociales no pueden mitigarse a nivel de los modelos de lenguaje (LLM): estos modelos no son capaces de distinguir si una solicitud es legítima o si se trata de una de las miles generadas por un spammer. Por este motivo, necesitamos filtros de contenido en la capa de aplicación, para que los espacios humanos sigan siendo humanos.

Por qué Pangram Labs se toma muy en serio la precisión

Hemos oído muchas opiniones escépticas sobre este campo. Que el problema es imposible de resolver, que se ha demostrado que los detectores de IA «no funcionan», o que basta con dar las instrucciones adecuadas para sortearlos. O incluso que, aunque ahora sea posible, el año que viene será más difícil y, para cuando aparezca la IA general, será imposible.

Nuestra postura es un poco diferente. Creemos firmemente que este problema no solo es posible resolverlo, sino que es necesario hacerlo. No importa lo difícil que sea, ni cuántas horas tengamos que dedicarle para crear algo que los usuarios puedan utilizar y en lo que puedan confiar. Sin nuestro trabajo, es solo cuestión de años que Internet se vea invadida por spammers controlados por IA. Las voces humanas quedarán ahogadas por el ruido.

Para nosotros, asegurarnos de que el problema está resuelto implica seguir aumentando la dificultad de nuestros conjuntos de evaluación. En las primeras evaluaciones era fácil alcanzar el 100 % de precisión, pero pronto quedó claro que eso no reflejaba la precisión real. Al crear evaluaciones más exigentes, podemos medir nuestra mejora de forma objetiva. Ya creemos que nuestro punto de referencia actual es ligeramente más difícil que lo que producen los spammers en el mundo real, y este punto de referencia está cerca de su límite máximo. Cuando volvamos con nuevas cifras, podría parecer que otros métodos han empeorado aún más, pero la realidad es que volveremos con un conjunto de evaluación más difícil, en el que las IA más capaces se verán empujadas al límite para crear texto que parezca auténtico, y nuestro objetivo es seguir siendo capaces de detectarlo con una precisión del 99 %.

El problema nunca se resolverá del todo, pero debemos avanzar de forma constante para no quedarnos atrás a medida que los modelos de lenguaje grande (LLM) se vuelven cada vez más potentes. Esto es a lo que nos hemos comprometido, y es lo que seguiremos persiguiendo hasta el final.

Comparación de herramientas de detección de IA

En nuestro informe técnico, comparamos Pangram Labs con las dos principales herramientas de detección de IA, así como con un método académico de vanguardia de 2023 para la detección de IA.

Comparamos:

• Pangram Labs
• GPTZero
• Originality.ai
• DetectGPT

Nuestro conjunto de datos de referencia incluye 1 976 documentos: la mitad de ellos escritos por personas y la otra mitad generados por ocho de los modelos de lenguaje grande (LLM) más populares, entre los que se encuentran ChatGPT y GPT-4.

Comparación de la precisión general

Una breve explicación de lo que significan estas cifras:

• Precisión: ¿Qué porcentaje del total de documentos clasificó correctamente la herramienta?
• Índice de falsos positivos: de todos los documentos redactados por personas, ¿cuántos se clasificaron erróneamente como generados por IA?
• Índice de falsos negativos: de todos los documentos generados por IA, ¿cuántos se clasificaron erróneamente como escritos por humanos?

Para ilustrar de forma concreta la tasa de falsos positivos: un 9 % significa que uno de cada 11 documentos redactados por personas será marcado como generado por IA. Una tasa de falsos positivos del 2 % significa que uno de cada 50 documentos redactados por personas será marcado como generado por IA. Y un 0,67 % significa que uno de cada 150 documentos redactados por personas será marcado como generado por IA.

Del mismo modo, una tasa de falsos negativos del 10 % significa que uno de cada diez documentos generados por IA pasa desapercibido, mientras que una tasa de falsos negativos del 1,4 % significa que uno de cada setenta documentos generados por IA pasa desapercibido.

Analicemos las implicaciones de estos resultados. No se puede confiar en un modelo de detección con una tasa de falsos positivos del 9 %, ya que, de lo contrario, proliferarían las acusaciones infundadas. Y un modelo de detección con una tasa de falsos negativos del 10 % dejaría pasar tal cantidad de spam generado por IA que, ante cualquier ataque, los usuarios seguirían viéndose inundados.

Analizar los resultados en profundidad

Nuestro punto de referencia se divide en dos ejes diferentes: el ámbito textual y el modelo de lenguaje grande (LLM) de origen. El «ámbito textual», o simplemente «ámbito», es una forma de referirse a una categoría específica de escritura. Por ejemplo, un redacto de secundaria se lee de forma muy diferente a un artículo científico, que a su vez se lee de forma muy diferente a un correo electrónico. Al desglosar los resultados por distintos ámbitos, podemos obtener una visión más completa de en qué áreas obtenemos buenos resultados y en cuáles debemos centrar nuestros esfuerzos para mejorar.

Precisión por tipo de texto

Los resultados muestran que Pangram Labs supera a GPTZero y a Originality en los diez ámbitos evaluados.

Uno de los ámbitos, el correo electrónico, presenta unos resultados especialmente buenos, ya que Pangram Labs no incluye ningún correo electrónico en sus datos de entrenamiento. Nuestro rendimiento en el ámbito del correo electrónico se debe exclusivamente al entrenamiento de un modelo robusto capaz de generalizarse a la mayoría de las categorías de texto que puede generar un modelo de lenguaje grande (LLM).

Documentos clasificados correctamente por la IA, según el origen del modelo de lenguaje grande (LLM)

Si se analizan los resultados por origen del modelo de lenguaje grande (LLM), se observa algo diferente: los modelos de detección de IA de la competencia obtienen mejores resultados con modelos de código abierto menos potentes, pero obtienen peores resultados con ChatGPT (gpt-3.5-turbo) y tienen serias dificultades con GPT-4, el modelo de lenguaje grande más potente de OpenAI. Hemos evaluado varias versiones de los modelos GPT-3.5 Turbo y GPT-4, ya que son los más utilizados en la práctica.

Hemos comprobado que somos el único modelo capaz de detectar texto generado por GPT-4 de forma fiable, y que, además, superamos a todos los demás modelos que hemos probado.

Una observación interesante es que nuestra competencia obtiene resultados mucho mejores con los modelos de código abierto que con los modelos de código cerrado GPT y Gemini. Nuestra hipótesis es que esto se debe a una dependencia excesiva de las características de perplejidad y ráfagas; aunque estas características son valiosas, solo se pueden calcular con precisión la perplejidad y las ráfagas en un modelo de código abierto: en los modelos de código cerrado, solo se puede realizar una estimación aproximada. Esto demuestra el valor de nuestro enfoque basado en el aprendizaje profundo: no se basa en características frágiles como la perplejidad y puede aprender patrones subyacentes más sutiles.

Robustez

Una pregunta que nos hacen a menudo es: ¿qué ocurre cuando se lanza un nuevo modelo de lenguaje? ¿Es necesario entrenar el modelo para detectar los resultados de cada nuevo modelo? En resumen, no. OpenAI lanzó dos nuevas versiones de sus modelos de lenguaje grande (LLM) en las últimas semanas. Sin haber entrenado nuestro modelo en absoluto con estos nuevos LLM, lo evaluamos y descubrimos que seguía funcionando bastante bien.

• GPT-3.5-Turbo-0125: 99,66 % de precisión
• GPT-4-0125-Vista previa: 99,18 % de precisión

Estas nuevas versiones son similares a las anteriores lanzadas por OpenAI. Así que la siguiente pregunta que nos hacemos es: ¿qué tal nos va con familias de modelos completamente diferentes? Para responder a esto, hemos evaluado nuestro modelo en una serie de modelos de código abierto que nuestro clasificador nunca había visto antes.

Resultados obtenidos por un modelo de lenguaje grande (LLM) de código abierto, que Pangram Labs no había visto durante el entrenamiento.

¡Genial! Esto se debe en gran parte a que muchos modelos de código abierto se basan en la familia Llama o utilizan conjuntos de entrenamiento de código abierto similares, pero esto nos ayuda a confiar en nuestra capacidad para generalizar sin necesidad de entrenar con cada uno de los modelos de código abierto.

Dicho esto, nuestro proceso de procesamiento de datos está diseñado de tal forma que podemos generar un nuevo conjunto de entrenamiento a las pocas horas de que se publique una API de LLM, con la única limitación impuesta por el límite de solicitudes de la API. Somos muy conscientes de que los LLM no dejan de mejorar y, a medida que nos acercamos a la IA general, será cada vez más importante mantenernos al día y asegurarnos de que podemos seguir el ritmo incluso a los agentes de IA más avanzados.

El inglés como segunda lengua

Estudios anteriores revelaron que los detectores de modelos de lenguaje grande (LLM) comerciales muestran un sesgo sistemático hacia los hablantes no nativos (ESL, o inglés como segunda lengua). Para comprobarlo, los investigadores utilizaron una muestra de referencia compuesta por 91 redacciones del TOEFL (Test of English as a Foreign Language) con el fin de evaluar varios detectores.

Seleccionamos los 91 ensayos del TOEFL de nuestro conjunto de entrenamiento y evaluamos Pangram Labs en el conjunto de referencia. Gracias a nuestro trabajo para minimizar las tasas de falsos positivos en el caso de los hablantes de inglés como segunda lengua (ESL), registramos una tasa de falsos positivos del 0 % en el conjunto de referencia del TOEFL, lo que significa que ninguno de los ensayos escritos por personas de este conjunto fue clasificado erróneamente como generado por IA.

Comparación con respecto al nivel de referencia del TOEFL

El enfoque de Pangram Labs en materia de detección de IA

Detectar contenido generado por IA no es una tarea fácil. Entrenamos un modelo de aprendizaje profundo con una arquitectura basada en transformadores, utilizando dos métodos clave para llevar la precisión de nuestro modelo a un nivel superior.

Espejos sintéticos

Todos los documentos de nuestro conjunto de entrenamiento están etiquetados como «Humano» o «IA». En el aprendizaje automático, llamamos a estos documentos «ejemplos».

Disponemos de millones de ejemplos humanos procedentes de conjuntos de datos públicos con los que entrenar, pero no existen conjuntos de datos de IA equivalentes. Resolvemos esto emparejando cada ejemplo humano con un «espejo sintético», un término que utilizamos para describir un documento generado por IA basado en un documento humano. Le pedimos a un LLM que genere un documento sobre el mismo tema y de la misma extensión. En una pequeña parte de los ejemplos, hacemos que el LLM comience con la primera frase del documento humano, para que los documentos de IA sean más variados.

Minería de negativos duros

Al principio, nos topamos con un límite a la hora de entrenar nuestro modelo. Intentamos añadir más ejemplos, pero al final nos dimos cuenta de que el modelo estaba «saturado»: añadir más ejemplos de entrenamiento ya no mejoraba el modelo.

Experimento sobre leyes de escala

El rendimiento de este modelo inicial fue insatisfactorio: seguía presentando una tasa de falsos positivos superior al 1 % en muchos ámbitos. Lo que descubrimos fue que no solo necesitábamos más ejemplos, sino ejemplos más complejos.

Identificamos ejemplos más complejos tomando nuestro modelo inicial y analizando decenas de millones de ejemplos generados por humanos en conjuntos de datos abiertos, en busca de los documentos más difíciles que nuestro modelo había clasificado erróneamente. A continuación, generamos réplicas sintéticas de esos documentos y las añadimos a nuestro conjunto de entrenamiento. Por último, volvimos a entrenar el modelo y repetimos el proceso.

Proceso de entrenamiento del clasificador de textos generados por IA de Pangram Labs

Gracias a este método de entrenamiento, hemos conseguido reducir nuestras tasas de falsos positivos en un factor de 100 y lanzar un modelo del que nos sentimos orgullosos.

Tabla de tasas de falsos positivos por dominio

A este método lo denominamos «minería de negativos duros con espejos sintéticos», y en nuestro informe técnico lo analizamos con más detalle.

¿Qué le depara el futuro a Pangram Labs?

Obviamente, esto no es el final de nuestro camino. Tenemos un montón de ideas nuevas sobre cómo podemos llevar el rendimiento al siguiente nivel. Vamos a seguir mejorando nuestros conjuntos de evaluación para poder hacer un mejor seguimiento de la tasa de falsos positivos con una precisión de centésimas de punto porcentual. Tenemos previsto ampliar nuestro modelo para que funcione con idiomas distintos del inglés y estamos trabajando para comprender e identificar los casos en los que fallamos. ¡Estad atentos a lo que hagamos a continuación!

¿Tienes alguna pregunta o comentario? ¡Escríbenos a info@pangram.com!