Guia para assistentes jurídicos: Como identificar IA em documentos jurídicos

Se é assistente jurídico, provavelmente já sabe isto: a elaboração de documentos com o auxílio da IA é hoje em dia comum em contratos, alegações e processos de produção de provas.

Embora a elaboração de documentos com o auxílio da IA seja hoje comum, a utilização não documentada da IA pode dar origem a erros, problemas de conformidade e dificuldades em matéria de prova, o que complica a situação para os seus clientes.

Para preservar a integridade e a reputação do seu escritório de advocacia, pode recorrer à deteção por IA. Não como um mecanismo para gerar acusações contra os seus colegas de trabalho, mas sim como uma ferramenta de verificação e mitigação de riscos. Os documentos e partes de documentos gerados por IA devem ser revistos por assistentes jurídicos com conhecimentos na matéria.

Detecção de IA em documentos jurídicos

A deteção por IA em documentos jurídicos envolve a análise de padrões de escrita para avaliar se é provável que o texto tenha sido gerado por grandes modelos de linguagem.

Por exemplo, se utilizar uma ferramenta de deteção de IA para analisar um resumo, a ferramenta analisará os padrões de escrita presentes no resumo e identificará quaisquer secções que tenham sido geradas por IA.

A análise de documentos jurídicos por IA difere da análise de plágio, pois não procura verificar se o texto já apareceu noutro local sem ser devidamente creditado; em vez disso, a deteção por IA verifica se e em que medida a IA foi utilizada para gerar o texto.

Detectar IA em textos jurídicos é um desafio, dado o seu tom formal e a sua especificidade técnica, dois aspetos que são frequentemente indicadores de texto gerado por IA. Por esta razão, muitas ferramentas de deteção de IA de uso geral têm dificuldade em distinguir textos jurídicos de textos gerados por IA. Ao avaliar várias ferramentas para si e para o seu escritório, é importante ter isto em conta.

Ao analisar um texto jurídico, o Pangram avalia a estrutura do texto, a sua previsibilidade e sinais estatísticos específicos.

Pangram - Funcionalidades de deteção de IA em documentos jurídicos

Será que se pode confiar na deteção por IA para trabalhos jurídicos?

Sim, a deteção por IA é precisa no que diz respeito a textos jurídicos. É importante ter em conta que a deteção deve ser utilizada como um indicador probabilístico e não como prova definitiva.

Embora alguns detectores de IA sejam muito fiáveis, uma baixa taxa de falsos positivos não significa que não haja falsos positivos; estes ocorrem. Se utilizar um detector de IA para verificar documentos jurídicos e este indicar que um documento foi gerado por IA, é importante que reveja o texto por si próprio antes de tirar uma conclusão definitiva.

Por que a deteção de IA é importante para o direito: os tribunais e as equipas de conformidade encaram com cautela as provas probabilísticas de que um texto foi gerado por IA. Um texto jurídico produzido com IA pode conter erros graves, imprecisões ou alegações erradas.

Documentos jurídicos comuns em que a utilização da IA acarreta riscos

Os seguintes documentos jurídicos comuns apresentam riscos significativos quando a IA é utilizada para os gerar:

• Contratos e aditamentos: Alucinações. A IA costuma «alucinar» (criar) casos que não existem. Se o seu contrato ou aditamento citar leis ou regulamentos que não existem, a validade do documento fica comprometida e você e a sua empresa correm o risco de sofrer sanções.
• Respostas à divulgação de provas: as respostas à divulgação de provas devem incluir as informações solicitadas e relevantes. Uma vez que a IA frequentemente gera informações ou tende a ser prolixa, o texto gerado por IA num documento de divulgação de provas corre um elevado risco de incluir informações factualmente incorretas, mas que parecem legítimas. Documentos de divulgação de provas contaminados podem prejudicar o seu cliente e constituir um grande problema.
• Notas internas e resumos: as notas e os resumos gerados por IA podem conter «alucinações» da IA, tais como leis que não existem e acontecimentos que não ocorreram, o que pode induzir os advogados em erro e fazer-lhes perder tempo.
• Rascunhos enviados pelos clientes: Cada vez mais pessoas recorrem à IA generativa para escrever. Isso significa que é muito provável que o seu cliente envie documentos gerados por IA. Desde documentos de investigação e questionários até contratos, é fundamental saber onde a IA está presente para que possa proteger da melhor forma o seu cliente.

Detecção por IA vs. revisão manual: use as duas!

É necessária a deteção por IA para criar um programa que destaque as secções dos documentos que devem ser revistas manualmente. A razão para tal é a seguinte: a deteção por IA consegue identificar irregularidades estatísticas que sugerem a utilização de IA, enquanto a revisão manual permite detetar conteúdos incorretos ou prejudiciais.

A combinação da deteção por IA com a revisão manual reduz o risco de responsabilidade civil, permitindo-lhe garantir que um conteúdo não foi redigido por IA e, caso tenha sido, eliminar as falhas jurídicas que possam vir a prejudicar o seu cliente.

Como os assistentes jurídicos devem lidar com um documento sinalizado como IA

Os assistentes jurídicos devem tratar um documento marcado como «IA» seguindo um fluxo de trabalho passo a passo que apoie os assistentes jurídicos com quem trabalham, os advogados que dirigem o escritório e os clientes que servem. Esse fluxo de trabalho passo a passo é o seguinte:

• Revise a sua política interna de «uso aceitável da IA», caso a tenha.
• Se um documento tiver sido marcado como tendo sido elaborado por IA, após a revisão jurídica do documento pela IA, verifique essa utilização submetendo-o novamente ao detector de IA e lendo-o você mesmo.
• Verifique o histórico e os metadados do documento — por exemplo, se verificar que o documento estava vazio antes de ter sido colado um grande volume de texto, isso é um bom indício de que o documento foi criado com IA.
• Utilize o histórico do documento, os metadados e/ou os resultados do detector de IA como prova e reúna essas provas para reforçar a sua alegação de que um determinado documento foi gerado por IA.
• Documente todas as provas que recolher e esclareça como as obteve, o que elas sugerem e o que significam, de modo a dispor de uma pista de auditoria.

Escolher a ferramenta de deteção de IA adequada para equipas jurídicas

A intervenção humana é absolutamente necessária. A deteção por IA ajuda-o a si e à sua equipa a saber exatamente onde procurar e o que analisar, de forma mais rápida e eficaz.

A combinação da deteção por IA com a revisão manual reduz o risco de responsabilidade civil, proporcionando-lhe visibilidade e confiança em relação a cada documento que você e a sua equipa produzem.

Como os advogados devem lidar com um documento marcado como IA

Se um documento for sinalizado como contendo conteúdo gerado por IA, siga este guia passo a passo:

• Analise a política interna da sua empresa ou organização relativa ao «uso aceitável da IA».
• Se um documento tiver sido marcado como IA, volte a digitalizá-lo para confirmar se os resultados são consistentes.
• Verifique o histórico e os metadados do documento — por exemplo, se verificar que o documento estava vazio antes de ter sido colado um grande volume de texto, isso é um bom indício de que o documento foi criado com IA.
• Utilize o histórico do documento, os metadados e/ou os resultados do detector de IA como prova e reúna essas provas para reforçar a sua alegação de que um determinado documento foi gerado por IA.
• Documente todas as provas que recolher e esclareça como as obteve, o que elas sugerem e o que significam, de modo a dispor de uma pista de auditoria.

Escolher a ferramenta de deteção de IA adequada para equipas jurídicas

A escolha da ferramenta de deteção de IA adequada para equipas jurídicas depende do seu fluxo de trabalho, da política de IA do seu escritório, da área de direito em que atua e dos clientes que representa. Algumas considerações importantes:

• O detector de IA consegue verificar se um texto foi gerado por IA em vários estilos de redação jurídica.
• O detector de IA possui controlos de falsos positivos para evitar que documentos escritos por humanos sejam identificados como sendo de IA.
• O detector de IA inclui garantias de privacidade e de não utilização para fins de treino, para proteger a sua empresa e os seus clientes.
• O detector de IA oferece capacidade de auditoria de nível empresarial, permitindo que toda a sua empresa o utilize.
• O detetor de IA deve ser capaz de quantificar a extensão da utilização de IA num determinado documento.

Entre as ferramentas disponíveis no mercado, a Pangram é a única suficientemente robusta para distinguir de forma consistente textos jurídicos de textos gerados por IA, integra-se nos fluxos de trabalho jurídicos existentes, suporta os mais elevados padrões de controlo de segurança de dados e privacidade empresariais e apresenta uma taxa de falsos positivos consistentemente baixa.

As ferramentas de deteção permitem aos advogados preservar a integridade dos documentos e proteger o seu escritório, a sua empresa e os seus clientes.

Ajude a sua equipa jurídica utilizando o Pangram.

Digitalizar documentos jurídicos para IA