Guia para assistentes jurídicos: Detetar IA em documentos jurídicos

Se é assistente jurídico, provavelmente já sabe que a elaboração de documentos com o auxílio da IA é hoje prática comum em contratos, alegações e processos de produção de provas.

Embora a elaboração de documentos com o auxílio da IA seja hoje em dia comum, a utilização não documentada da IA pode dar origem a erros, problemas de conformidade e dificuldades em termos de prova, o que complica a situação para os seus clientes.

Para preservar a integridade e a reputação do seu escritório de advogados, pode recorrer à deteção por IA. Não como um mecanismo para gerar acusações contra os seus colegas de trabalho, mas sim como uma ferramenta de verificação e mitigação de riscos. Os documentos e partes de documentos gerados por IA devem ser revistos por assistentes jurídicos com conhecimentos na matéria.

Detetar IA em documentos jurídicos

A deteção por IA em documentos jurídicos envolve a análise de padrões de escrita para determinar se é provável que o texto tenha sido gerado por grandes modelos de linguagem.

Por exemplo, se utilizar uma ferramenta de deteção de IA para analisar um resumo, a ferramenta irá examinar os padrões de escrita presentes no resumo e identificar quaisquer secções que tenham sido geradas por IA.

A análise de documentos jurídicos por IA difere da análise de plágio, pois não procura verificar se o texto já apareceu noutro local sem ser devidamente creditado; em vez disso, a deteção por IA verifica se e em que medida a IA foi utilizada para gerar o texto.

Detetar a IA em textos jurídicos constitui um desafio, dado o seu tom formal e a sua especificidade técnica, dois aspetos que são frequentemente indicadores de texto gerado por IA. Por esta razão, muitas ferramentas de deteção de IA de uso geral têm dificuldade em distinguir textos jurídicos de textos gerados por IA. Ao avaliar várias ferramentas para si e para o seu escritório, é importante ter isto em conta.

Ao analisar um texto jurídico, o Pangram avalia a estrutura do texto, a sua previsibilidade e sinais estatísticos específicos.

Pangram - Funcionalidades de deteção de IA em documentos jurídicos

Será que se pode confiar na deteção por IA para trabalhos jurídicos?

Sim, a deteção por IA é precisa no que diz respeito a textos jurídicos. É importante ter em conta que a deteção deve ser utilizada como um indicador probabilístico e não como prova definitiva.

Embora alguns detetores de IA sejam muito fiáveis, uma baixa taxa de falsos positivos não significa que não haja falsos positivos; estes ocorrem. Se utilizar um detetor de IA para verificar documentos jurídicos e este indicar que um documento foi gerado por IA, é importante que reveja o texto por si próprio antes de tirar uma conclusão definitiva.

Por que a deteção da IA é importante para o direito: os tribunais e as equipas de conformidade encaram com cautela as provas probabilísticas de que um texto foi gerado por IA. Um texto jurídico produzido com IA pode conter erros graves, imprecisões ou afirmações erradas.

Documentos jurídicos comuns em que a utilização da IA acarreta riscos

Os seguintes documentos jurídicos comuns apresentam riscos significativos quando a IA é utilizada para os gerar:

• Contratos e aditamentos: Alucinações. A IA costuma «alucinar» (criar) casos que não existem. Se o seu contrato ou aditamento citar leis ou regulamentos que não existem, a validade do documento fica comprometida e você e a sua empresa correm o risco de sofrer sanções.
• Respostas ao pedido de produção de provas: as respostas ao pedido de produção de provas devem incluir as informações solicitadas e relevantes. Uma vez que a IA frequentemente gera informações ou tende a ser prolixa, o texto gerado por IA num documento de produção de provas corre um risco elevado de incluir informações factualmente incorretas, mas que parecem legítimas. Documentos de produção de provas contaminados podem prejudicar o seu cliente e constituir um grande problema.
• Notas internas e resumos: as notas e os resumos gerados por IA podem conter «alucinações» da IA, tais como leis que não existem e acontecimentos que não ocorreram, o que pode induzir os advogados em erro e fazer-lhes perder tempo.
• Rascunhos enviados pelos clientes: Cada vez mais pessoas recorrem à IA generativa para escrever. Isso significa que é muito provável que o seu cliente envie documentos gerados por IA. Desde documentos de investigação e questionários até contratos, é fundamental saber onde a IA está presente para que possa proteger da melhor forma o seu cliente.

Detecção por IA vs. revisão manual: use as duas!

É necessária a deteção por IA para criar um programa que destaque as secções dos documentos que devem ser revistas manualmente. A razão para tal é a seguinte: a deteção por IA consegue identificar irregularidades estatísticas que sugerem a utilização de IA, enquanto a revisão manual permite detetar conteúdos incorretos ou prejudiciais.

A combinação da deteção por IA com a revisão manual reduz o risco de responsabilidade civil, permitindo-lhe garantir que um determinado conteúdo não foi redigido por IA e, caso tenha sido, eliminar as falhas jurídicas que possam vir a prejudicar o seu cliente.

Como os assistentes jurídicos devem lidar com um documento sinalizado como tendo sido gerado por IA

Os assistentes jurídicos devem tratar um documento marcado como «IA» seguindo um fluxo de trabalho passo a passo que apoie os assistentes jurídicos com quem trabalham, os advogados que dirigem o escritório e os clientes que servem. Esse fluxo de trabalho passo a passo é o seguinte:

• Revise a sua política interna de «utilização aceitável da IA», caso a tenha.
• Se um documento tiver sido marcado como tendo sido gerado por IA, após a revisão jurídica do documento por IA, verifique essa utilização submetendo-o ao detector de IA mais uma vez e lendo-o você mesmo.
• Verifique o histórico e os metadados do documento — por exemplo, se verificar que o documento estava vazio antes de ter sido colado um grande volume de texto, isso é um bom indício de que o documento foi criado com IA.
• Utilize o histórico do documento, os metadados e/ou os resultados do detetor de IA como prova e reúna essas provas para reforçar a sua alegação de que um determinado documento foi gerado por IA.
• Documente todas as provas que recolher e esclareça como as obteve, o que elas sugerem e o que significam, de modo a dispor de um registo de auditoria.

Escolher a ferramenta de deteção de IA adequada para equipas jurídicas

A intervenção humana é absolutamente necessária. A deteção por IA ajuda-o a si e à sua equipa a saber exatamente onde procurar e o que analisar, de forma mais rápida e eficaz.

A combinação da deteção por IA com a revisão manual reduz o risco de responsabilidade civil, proporcionando-lhe visibilidade e confiança em relação a cada documento que você e a sua equipa produzem.

Como os advogados devem lidar com um documento sinalizado como tendo sido gerado por IA

Se um documento for sinalizado como contendo conteúdo gerado por IA, siga este guia passo a passo:

• Consulte a política interna da sua empresa ou organização relativa ao «uso aceitável da IA».
• Se um documento tiver sido marcado como IA, digitalize-o novamente para confirmar se os resultados são consistentes.
• Verifique o histórico e os metadados do documento — por exemplo, se verificar que o documento estava vazio antes de ter sido colado um grande volume de texto, isso é um bom indício de que o documento foi criado com IA.
• Utilize o histórico do documento, os metadados e/ou os resultados do detetor de IA como prova e reúna essas provas para reforçar a sua alegação de que um determinado documento foi gerado por IA.
• Documente todas as provas que recolher e esclareça como as obteve, o que elas sugerem e o que significam, de modo a dispor de um registo de auditoria.

Escolher a ferramenta de deteção de IA adequada para equipas jurídicas

A escolha da ferramenta de deteção de IA adequada para as equipas jurídicas depende do seu fluxo de trabalho, da política de IA do seu escritório, da área de direito em que atua e dos clientes que representa. Algumas considerações importantes:

• O detetor de IA consegue verificar se um texto foi gerado por IA, tendo em conta vários estilos de redação jurídica.
• O detetor de IA dispõe de controlos de falsos positivos para evitar que documentos redigidos por humanos sejam identificados como sendo de IA.
• O detetor de IA inclui garantias de privacidade e de não utilização para fins de treino, para proteger a sua empresa e os seus clientes.
• O detetor de IA oferece rastreabilidade de nível empresarial, permitindo que toda a sua empresa o utilize.
• O detetor de IA deve ser capaz de quantificar a extensão da utilização de IA num determinado documento.

Entre as ferramentas disponíveis no mercado, a Pangram é a única suficientemente robusta para distinguir de forma consistente textos jurídicos e textos gerados por IA, integra-se nos fluxos de trabalho jurídicos existentes, suporta os mais elevados padrões de segurança de dados e de privacidade a nível empresarial e apresenta uma taxa de falsos positivos consistentemente baixa.

As ferramentas de deteção permitem aos advogados preservar a integridade dos documentos e proteger o seu escritório, a sua empresa e os seus clientes.

Ajude a sua equipa jurídica utilizando o Pangram.

Digitalizar documentos jurídicos para IA