Découvrez les phrases générées par l'IA de Pangram

Si l'on y prête suffisamment attention, on trouve souvent dans un texte des indices qui laissent penser qu'il a été rédigé par une IA. Certaines structures de phrases, certains choix de mots ou certaines mises en forme apparaissent bien plus fréquemment dans les textes générés par une IA que dans ceux rédigés par des humains.

Vous connaissez peut-être déjà quelques expressions qui semblent indiquer qu'un texte a été généré par une IA. Les exemples sont nombreux : « tapisserie complexe », « témoignage de », ou encore le mot « delve », comme l'a largement fait savoir l'écrivain et investisseur Paul Graham.

Tweet de Paul Graham

Si vous utilisez régulièrement le tableau de bord Pangram, vous avez peut-être remarqué que nous avons commencé à mettre en évidence les expressions trop souvent utilisées par l'IA, comme « une trame complexe » dans l'essai généré par l'IA ci-dessous.

Voici le nouvel outil « Phrases IA » de Pangram ! Voici comment il fonctionne :

Lorsque vous numérisez un document et que Pangram détecte qu'il a été généré par une IA, nous effectuons une deuxième analyse à la recherche d'expressions couramment utilisées par les IA.

Pour former notre modèle à atteindre un haut niveau de précision, nous utilisons des ensembles de données internes comprenant des dizaines de millions de documents rédigés par des humains et générés par l'IA. Par ailleurs, notre équipe peut passer au crible ces deux ensembles de données afin d'identifier les séquences de mots récurrentes dans les textes humains et ceux générés par l'IA. Nous pouvons ensuite comparer les statistiques pour déterminer si l'IA utilise effectivement certaines expressions de manière excessive. Nous utilisons une technique appelée analyse N-Gram (la ressemblance phonétique avec « Pangram » n'est peut-être pas une coïncidence 😊), et les résultats sont frappants. Nous constatons clairement qu'il existe d'innombrables expressions que l'IA semble utiliser bien plus souvent que les humains. Elles sont si nombreuses, en fait, que nous avons décidé de créer un outil permettant d'afficher ces expressions directement sur le tableau de bord de Pangram.

Pourquoi est-ce important ?

Chez Pangram, nous nous attachons à préserver les voix humaines. Nous disposons d'un modèle de détection de base capable d'analyser des centaines de milliers de détails d'un texte afin de déterminer s'il a été généré par une IA ou non.

Cependant, l'explicabilité nous intéresse également. Le fait de savoir qu'une expression particulière est largement surreprésentée dans les textes générés par l'IA peut vous permettre de mieux comprendre (et d'expliquer à d'autres !) pourquoi nous avons pu détecter ou non qu'un passage était issu de l'IA. Si vous savez qu'un texte comporte plusieurs expressions qui apparaissent des centaines, voire des milliers de fois plus fréquemment dans les textes générés par l'IA que dans les textes humains, vous disposez désormais de preuves plus quantifiables pour étayer notre jugement.

Nous souhaitons vous tenir informés, vous, nos utilisateurs, non seulement de la possibilité qu'un texte soit généré par l'IA, mais aussi de la manière dont nous pouvons le déterminer. Les expressions générées par l'IA constituent un élément clé de cette mission et de notre démarche globale en faveur de l'interprétabilité.

Dans nos prochains articles de blog, nous passerons en revue certaines des expressions les plus galvaudées dans le domaine de l'IA, alors restez à l'écoute ! Pour plus d'informations sur Pangram ou sur nos fonctionnalités d'interprétabilité, n'hésitez pas à nous contacter à l'adresse info@pangram.com