Guide à l'intention des assistants juridiques : Détecter l'IA dans les documents juridiques

Si vous êtes assistant juridique, vous le savez sans doute déjà : la rédaction assistée par l'IA est désormais courante dans les contrats, les mémoires et les procédures de communication préalable.

Même si la rédaction assistée par l'IA est désormais courante, une utilisation non documentée de l'IA peut entraîner des erreurs, des problèmes de conformité et des difficultés en matière de preuve, ce qui complique la situation pour vos clients.

Pour préserver l'intégrité et la réputation de votre cabinet d'avocats, vous pouvez recourir à la détection par IA. Non pas pour l'utiliser comme un outil permettant de porter des accusations contre vos collaborateurs, mais comme un outil de vérification et d'atténuation des risques. Les documents ou parties de documents générés par l'IA doivent être examinés par des assistants juridiques compétents.

Détection de l'IA dans les documents juridiques

La détection par IA des documents juridiques consiste à analyser les caractéristiques stylistiques du texte afin de déterminer s'il est susceptible d'avoir été généré par de grands modèles linguistiques.

Par exemple, si vous utilisez un outil de détection de l'IA pour analyser un dossier, celui-ci examinera les schémas stylistiques du texte et identifiera les passages générés par l'IA.

L'analyse de documents juridiques par l'IA diffère de la détection de plagiat, car elle ne vise pas à vérifier si un texte a déjà été publié ailleurs sans mention de la source ; elle consiste plutôt à déterminer si et dans quelle mesure l'IA a été utilisée pour générer ce texte.

Détecter l'IA dans un texte juridique représente un véritable défi, compte tenu du ton formel et de la spécificité technique de ce type de texte, deux caractéristiques qui sont souvent révélatrices d'un texte généré par l'IA. C'est pour cette raison que de nombreux outils de détection de l'IA à usage général ont du mal à distinguer un texte juridique d'un texte généré par l'IA. Il est important de garder cela à l'esprit lorsque vous évaluez différents outils pour vous-même et votre cabinet.

Lorsqu'il analyse un texte juridique, Pangram évalue la structure du texte, sa prévisibilité et certains indicateurs statistiques spécifiques.

Pangram - Fonctionnalités de détection par IA des documents juridiques

Peut-on se fier à la détection par IA pour les travaux juridiques ?

Oui, la détection par IA est fiable pour les textes juridiques. Il est toutefois important de garder à l'esprit que cette détection doit être considérée comme un indicateur probabiliste et non comme une preuve irréfutable.

Même si certains détecteurs d'IA sont très fiables, un faible taux de faux positifs ne signifie pas qu'il n'y en a aucun ; cela arrive parfois. Si vous utilisez un détecteur d'IA pour vérifier des documents juridiques et qu'il indique qu'un document a été généré par l'IA, il est important que vous relisiez vous-même le texte avant de tirer une conclusion définitive.

Pourquoi la détection de l'IA est-elle importante pour le droit ? Les tribunaux et les équipes chargées de la conformité considèrent avec prudence les preuves probabilistes de la génération par l'IA. Un texte juridique rédigé à l'aide de l'IA pourrait contenir des erreurs graves, des inexactitudes ou des affirmations erronées.

Documents juridiques courants dans lesquels l'utilisation de l'IA présente des risques

Les documents juridiques courants suivants présentent des risques importants lorsqu'ils sont générés à l'aide de l'IA :

• Contrats et avenants : hallucinations. L'IA a souvent tendance à « halluciner » (c'est-à-dire à inventer) des cas qui n'existent pas. Si votre contrat ou votre avenant fait référence à des lois ou à des réglementations qui n'existent pas, la validité du document est compromise et vous et votre cabinet vous exposez à des sanctions.
• Réponses à la demande de communication de pièces : les réponses à la demande de communication de pièces doivent contenir les informations demandées et pertinentes. Étant donné que l'IA génère souvent des informations ou a tendance à être prolixe, les textes générés par l'IA dans un document de communication de pièces risquent fortement de contenir des informations factuellement erronées, mais qui semblent légitimes. Des documents de communication de pièces erronés pourraient nuire à votre client et vous causer de sérieux problèmes.
• Notes de service et résumés internes : les notes de service et les résumés générés par l'IA peuvent contenir des « hallucinations » de l'IA, telles que des lois qui n'existent pas et des événements qui ne se sont pas produits, ce qui peut induire les avocats en erreur et leur faire perdre leur temps.
• Projets fournis par les clients : de plus en plus de personnes ont recours à l'IA générative pour rédiger des textes. Il y a donc de fortes chances que votre client vous soumette des documents générés par l'IA. Qu'il s'agisse de documents de mise en lumière des faits, de questionnaires ou de contrats, il est essentiel de savoir où l'IA intervient afin de pouvoir protéger au mieux votre client.

Détection par IA ou vérification manuelle : optez pour les deux !

La détection par IA est nécessaire pour créer un programme capable de mettre en évidence les passages d'un document qui doivent faire l'objet d'une vérification manuelle. La raison en est la suivante : la détection par IA permet de repérer les anomalies statistiques qui indiquent une utilisation de l'IA, tandis que la vérification manuelle permet de repérer les contenus erronés ou préjudiciables.

En associant la détection par IA à une vérification manuelle, vous réduisez les risques juridiques en aval, car cela vous permet de vous assurer qu'un contenu n'a pas été rédigé par une IA et, le cas échéant, de corriger les failles juridiques susceptibles de nuire à votre client.

Comment les assistants juridiques doivent-ils traiter un document signalé comme ayant été généré par une IA ?

Les assistants juridiques doivent traiter les documents signalés comme ayant été générés par l'IA en suivant un processus étape par étape qui facilite le travail des assistants juridiques avec lesquels ils collaborent, des avocats à la tête du cabinet et des clients qu'ils servent. Ce processus étape par étape se présente comme suit :

• Vérifiez votre politique interne relative à « l'utilisation acceptable de l'IA », si vous en avez une.
• Si un document a été signalé comme ayant été généré par une IA, après la révision juridique de ce document par l'IA, vérifiez cette hypothèse en le soumettant une nouvelle fois au détecteur d'IA et en le relisant vous-même.
• Vérifiez l'historique et les métadonnées du document : par exemple, si vous constatez que le document était vide avant qu'un volume important de texte y soit collé, c'est un indice fort que ce document a été généré par une IA.
• Utilisez l'historique du document, ses métadonnées et/ou les résultats du détecteur d'IA comme éléments de preuve, puis rassemblez ces éléments pour étayer votre affirmation selon laquelle un document donné a été généré par une IA.
• Consignez par écrit tous les éléments de preuve que vous recueillez et précisez comment vous les avez obtenus, ce qu'ils indiquent et ce qu'ils signifient, afin de disposer d'une piste d'audit.

Choisir le bon outil de détection par IA pour les équipes juridiques

L'intervention humaine est absolument indispensable. La détection par IA vous aide, vous et votre équipe, à savoir exactement où chercher et quoi examiner, et ce, plus rapidement et plus efficacement.

En associant la détection par IA à une vérification manuelle, vous réduisez les risques juridiques en amont, tout en bénéficiant d'une visibilité et d'une assurance quant à chaque document que vous et votre équipe produisez.

Comment les avocats doivent-ils traiter un document signalé comme ayant été généré par une IA ?

Si un document est signalé comme contenant du contenu généré par l'IA, suivez ce guide étape par étape :

• Vérifiez la politique interne de votre cabinet ou de votre entreprise relative à « l'utilisation acceptable de l'IA ».
• Si un document a été signalé comme provenant d'une IA, numérisez-le à nouveau pour vérifier la cohérence des résultats.
• Vérifiez l'historique et les métadonnées du document : par exemple, si vous constatez que le document était vide avant qu'un volume important de texte y soit collé, c'est un indice fort que ce document a été généré par une IA.
• Utilisez l'historique du document, ses métadonnées et/ou les résultats du détecteur d'IA comme éléments de preuve, puis rassemblez ces éléments pour étayer votre affirmation selon laquelle un document donné a été généré par une IA.
• Consignez par écrit tous les éléments de preuve que vous recueillez et précisez comment vous les avez obtenus, ce qu'ils indiquent et ce qu'ils signifient, afin de disposer d'une piste d'audit.

Choisir le bon outil de détection par IA pour les équipes juridiques

Le choix de l'outil de détection d'IA le mieux adapté aux équipes juridiques dépend de votre flux de travail, de la politique de votre cabinet en matière d'IA, du domaine juridique dans lequel vous exercez et des clients que vous servez. Voici quelques éléments clés à prendre en compte :

• Le détecteur d'IA permet de vérifier si un texte a été généré par une IA, et ce, pour différents styles de rédaction juridique.
• Le détecteur d'IA intègre des contrôles anti-faux positifs afin d'éviter que des documents rédigés par des humains ne soient signalés comme provenant de l'IA.
• Le détecteur d'IA est assorti de garanties en matière de confidentialité et de non-utilisation à des fins d'apprentissage, afin de protéger votre cabinet et vos clients.
• Le détecteur d'IA offre une traçabilité de niveau professionnel, ce qui permet à l'ensemble de votre entreprise de l'utiliser.
• Le détecteur d'IA devrait être capable de quantifier l'ampleur de l'utilisation de l'IA dans un document donné.

Parmi les outils disponibles sur le marché, Pangram est le seul à offrir une fiabilité suffisante pour distinguer systématiquement les textes juridiques des textes générés par l'IA, à s'intégrer aux flux de travail juridiques existants, à prendre en charge les contrôles de sécurité les plus stricts en matière de données d'entreprise et de confidentialité, et à afficher un taux de faux positifs systématiquement faible.

Les outils de détection permettent aux avocats de préserver l'intégrité des documents et de protéger leur cabinet, leur entreprise et leurs clients.

Aidez votre équipe juridique en utilisant Pangram.

Numériser des documents juridiques pour l'IA