Presentamos las frases de IA de Pangram

Si prestas suficiente atención, a menudo puedes encontrar indicadores en un texto que sugieren que fue escrito por IA. Ciertas estructuras de oraciones, elecciones de palabras o formatos aparecen con mucha más frecuencia en textos escritos por IA que en textos escritos por humanos.

Es posible que incluso ya conozcas algunas frases que parecen indicar que un texto ha sido generado por IA. Hay muchos ejemplos: «tapiz complejo», «un testimonio de» o incluso la palabra «profundizar», como popularizó el escritor e inversor Paul Graham.

Paul Graham Tweet

Ahora bien, si eres un usuario habitual del panel de control de Pangram, quizá también hayas notado que hemos comenzado a resaltar las frases de IA más utilizadas, como «tapiz complejo» en el ensayo de IA que aparece a continuación.

¡Esta es la nueva herramienta de frases con IA de Pangram! Así es como funciona:

Cuando escaneas un documento y Pangram detecta que ha sido generado por IA, realizamos un segundo escaneo en busca de frases comunes de IA.

Para entrenar nuestro modelo y que sea altamente preciso, utilizamos conjuntos de datos internos de decenas de millones de documentos generados por humanos y por IA. Por separado, nuestro equipo puede escanear ambos conjuntos de datos en busca de secuencias comunes de palabras en la escritura humana y la de la IA. A continuación, podemos comparar las estadísticas para ver si la IA realmente abusa de ciertas frases. Utilizamos una técnica llamada análisis N-Gram (el sonido similar a PaNGram puede que no sea una coincidencia 😊), y los resultados son sorprendentes. Vemos claramente que hay innumerables frases que la IA parece utilizar con mucha más frecuencia que los humanos. De hecho, son tantas que decidimos crear una herramienta para mostrar estas frases directamente en el panel de control de Pangram.

¿Por qué es importante?

En Pangram, nos interesa preservar las voces humanas. Contamos con nuestro modelo de detección central, capaz de procesar cientos de miles de detalles sobre un texto para determinar si ha sido generado por IA o no.

Sin embargo, también nos interesa la explicabilidad. Saber que una frase concreta está muy sobrerrepresentada en el texto generado por IA puede permitirle comprender mejor (¡y explicárselo a otros!) por qué hemos detectado un fragmento de texto como generado por IA o no. Si sabe que un texto contiene varias frases que aparecen cientos o miles de veces más frecuentemente en textos generados por IA que en textos humanos, ahora tiene más pruebas cuantificables para respaldar nuestro juicio.

Queremos manteneros informados, a vosotros, nuestros usuarios, no solo sobre si un texto ha sido generado por IA, sino también sobre cómo podemos saberlo. Las frases de IA son una parte fundamental de esta misión y de nuestro camino general hacia la interpretabilidad.

En futuras entradas del blog, repasaremos algunas de las frases más utilizadas en relación con la IA, ¡así que permanezca atento! Para obtener más información sobre Pangram o nuestras funciones de interpretabilidad, no dude en ponerse en contacto con nosotros en info@pangram.com.