Un tour d'horizon des expressions les plus galvaudées dans le domaine de l'IA

Comme nous l'avons évoqué la semaine dernière, l'IA a tendance à abuser de certains mots et expressions. Vous en connaissez sans doute quelques-uns d'emblée : de « a testament to » à « delve ». La présence fréquente de ces expressions peut être un indicateur fiable que le texte que vous avez sous les yeux a été généré par l'IA, mais elles sont bien trop nombreuses pour qu'une seule personne puisse toutes les repérer.

Pour résoudre ce problème, nous avons récemment mis en place un outil appelé « Expressions IA », qui met spécifiquement en évidence ces expressions. Dans le cadre du développement de cet outil, nous avons constitué un vaste ensemble de données regroupant les expressions les plus couramment utilisées en matière d'IA. Dans cet article, nous vous présenterons certaines des expressions les plus courantes qui figurent dans notre ensemble de données et nous vous expliquerons comment vous pouvez les utiliser pour affiner votre intuition concernant les textes générés par l'IA.

Partie 1 : Artefacts liés à l'IA

Commençons par le plus évident : il arrive parfois qu’une IA vous dise carrément qu’elle est une IA ! Cela se produit souvent à la suite d’un refus. Lorsqu’un utilisateur demande à une IA de faire quelque chose qu’elle a reçu l’ordre de ne pas faire, elle doit lui indiquer qu’elle ne peut pas accéder à sa demande, et dans ce contexte, le modèle reconnaîtra souvent qu’il s’agit d’une IA. De nombreux refus d'IA commencent par la phrase « En tant que modèle linguistique d'IA… ». Il s'ensuit que ce type de phrase serait assez courant dans les textes générés par l'IA et extrêmement rare dans les textes humains. Les chiffres le confirment ! Bon nombre de nos expressions d'IA les plus courantes sont autoréférentielles.

Partie 2 : Expressions galvaudées

Les « artefacts IA » font partie des expressions les plus galvaudées dans le domaine de l'IA, mais elles sont en fin de compte assez évidentes et donc peu intéressantes. Passons maintenant à la partie intéressante : les expressions qui sont certes surreprésentées dans les textes sur l'IA, mais qui n'ont rien à voir avec le fait d'« être une IA ». En voici quelques-unes :

3e partie : Pourquoi l'IA utilise-t-elle trop souvent les mêmes expressions ?

On comprend aisément pourquoi une IA qui dit « En tant qu'IA... » soit beaucoup plus courante dans les textes générés par l'IA. Mais qu'est-ce qui explique que les phrases apparemment sans rapport de la partie 2 soient plus fréquentes ? Tout d'abord, il existe un phénomène appelé « effondrement de mode », dans lequel les résultats générés par l'IA deviennent trop génériques ou répétitifs en s'appuyant sur des séquences de mots à forte probabilité. L'effondrement de mode...

De plus, une fois l'entraînement terminé, il est courant de recourir au RLHF (Reinforcement Learning from Human Feedback, ou apprentissage par renforcement à partir du retour d'information humain). Au cours de ce processus, des annotateurs humains évaluent les textes générés par l'IA en fonction d'un certain nombre de critères, afin d'encourager certaines tendances et d'en décourager d'autres. Tout au long de ce processus, si certaines réponses ou expressions sont susceptibles d'être récompensées par ces annotateurs humains, elles deviendront de plus en plus fréquentes.

Par conséquent, certaines de ces expressions galvaudées peuvent être considérées comme une caractéristique propre à certains modèles, architectures et processus d'entraînement, plutôt que comme de simples traits distinctifs de l'écriture générée par l'IA en soi. Un article rédigé par Jenna Russell, Marzena Karpinska et Mohit Iyyer, de l'université du Maryland, montre que différents modèles ont en réalité des expressions de prédilection différentes :

surutilisé

Cela suggère que différents modèles, entraînés à partir d'ensembles de données et de stratégies d'optimisation variés, peuvent développer leurs propres tendances en matière de répétition de phrases.

En prime : les n-grammes préférés de notre équipe

Dans le cadre de notre travail, notre équipe a passé un nombre incalculable d'heures à lire et à analyser des textes générés par l'IA. Naturellement, nous avons développé une certaine affinité pour certaines de ces expressions :

Voici les expressions générées par l'IA préférées de notre équipe :

• Max (PDG) : « Dans ce monde en constante évolution » (11 000 fois)

• Bradley (directeur technique) : « À noter » (3 000 fois)

• Lu (ingénieur fondateur) : « nature complexe » (6 000 fois)

• Elyas (ingénieur fondateur) : « une mosaïque haute en couleur » (17 000 fois)