Presentamos las frases generadas por IA de Pangram

Si prestas suficiente atención, a menudo puedes encontrar indicios en un texto que sugieren que ha sido escrito por una IA. Ciertas estructuras sintácticas, elecciones léxicas o formatos aparecen con mucha más frecuencia en los textos generados por IA que en los escritos por personas.

Quizá ya conozcas algunas expresiones que parecen indicar que un texto ha sido generado por IA. Hay muchos ejemplos: «complex tapestry», «a testament to» o incluso la palabra «delve», como ha dado a conocer ampliamente el escritor e inversor Paul Graham.

Tuit de Paul Graham

Ahora bien, si eres un usuario habitual del panel de control de Pangram, quizá también hayas notado que hemos empezado a resaltar las frases más manidas de la IA, como «un complejo tapiz» en el ensayo generado por IA que aparece a continuación.

¡Esta es la nueva herramienta «Frases con IA» de Pangram! Así es como funciona:

Cuando escaneas un documento y Pangram detecta que ha sido generado por IA, realizamos un segundo análisis en busca de frases típicas de la IA.

Para entrenar nuestro modelo y lograr una alta precisión, utilizamos conjuntos de datos internos que contienen decenas de millones de documentos generados tanto por humanos como por IA. Por otra parte, nuestro equipo puede examinar ambos conjuntos de datos en busca de secuencias de palabras comunes en la escritura humana y la generada por IA. A continuación, comparamos las estadísticas para comprobar si la IA realmente abusa de ciertas frases. Utilizamos una técnica denominada análisis N-Gram (puede que el parecido con «pangram» no sea una coincidencia 😊), y los resultados son sorprendentes. Vemos claramente que hay innumerables frases que la IA parece utilizar con mucha más frecuencia que los humanos. De hecho, son tantas que decidimos crear una herramienta para mostrar estas frases directamente en el panel de control de Pangram.

¿Por qué es importante esto?

En Pangram, nos interesa preservar las voces humanas. Contamos con nuestro modelo de detección principal, capaz de procesar cientos de miles de detalles de un texto para determinar si ha sido generado por IA o no.

Sin embargo, también nos interesa la explicabilidad. Saber que una frase concreta está muy sobrerrepresentada en los textos generados por IA puede permitirte comprender mejor (¡y explicar a los demás!) por qué hemos detectado o no que un fragmento de texto procede de la IA. Si sabes que un texto contiene varias frases que aparecen cientos o miles de veces con más frecuencia en los textos generados por IA que en los escritos por humanos, dispones ahora de pruebas más cuantificables que respaldan nuestro criterio.

Queremos manteneros informados, a vosotros, nuestros usuarios, no solo sobre si un texto ha sido generado por IA, sino también sobre cómo podemos saberlo. Las frases de IA son una parte fundamental de esta misión y de nuestro camino hacia la interpretabilidad.

En futuras entradas del blog, analizaremos algunas de las expresiones más manidas del ámbito de la IA, ¡así que no te lo pierdas! Si deseas más información sobre Pangram o nuestras funciones de interpretabilidad, no dudes en ponerte en contacto con nosotros en info@pangram.com