Guía para asistentes jurídicos: Cómo detectar la IA en documentos jurídicos
Si eres asistente jurídico, probablemente ya lo sepas: la redacción asistida por IA es ahora habitual en contratos, escritos y procedimientos de presentación de pruebas.
Aunque la redacción asistida por IA es hoy en día algo habitual, el uso no documentado de la IA puede dar lugar a «alucinaciones», problemas de cumplimiento normativo y dificultades probatorias que complican las cosas a tus clientes.
Para mantener la integridad y la reputación de su bufete de abogados, puede recurrir a la detección mediante IA. No como un mecanismo para generar acusaciones contra sus compañeros de trabajo, sino como una herramienta de verificación y mitigación de riesgos. Los documentos y fragmentos de documentos generados por IA deben ser revisados por asistentes jurídicos con los conocimientos necesarios.
Detección de IA en documentos jurídicos
La detección mediante IA en documentos jurídicos consiste en analizar los patrones de redacción para determinar si es probable que el texto haya sido generado por grandes modelos de lenguaje.
Por ejemplo, si utilizas una herramienta de detección de IA para analizar un informe, la herramienta examinará los patrones de redacción del informe e identificará cualquier sección que haya sido generada por IA.
La revisión de documentos jurídicos mediante IA se diferencia de la revisión de plagio, ya que no busca determinar si el texto ha aparecido en otro lugar sin citar la fuente, sino que la detección mediante IA verifica si se ha utilizado IA para generar el texto y en qué medida.
Detectar la IA en textos jurídicos supone un reto, dado su tono formal y su especificidad técnica, dos aspectos que suelen ser indicativos de que el texto ha sido generado por IA. Por este motivo, muchas herramientas de detección de IA de uso general tienen dificultades para distinguir entre textos jurídicos y textos generados por IA. A la hora de evaluar diversas herramientas para usted y su bufete, es importante tener esto en cuenta.
Al analizar un texto jurídico, Pangram evalúa la estructura del texto, su previsibilidad y una serie de indicadores estadísticos específicos.
Pangram: funciones de detección de IA en documentos legales
¿Se puede confiar en la detección mediante IA para el ámbito jurídico?
Sí, la detección de IA es precisa en el caso de los textos jurídicos. Es importante tener en cuenta que la detección debe utilizarse como una indicación probabilística y no como una prueba definitiva.
Aunque algunos detectores de IA son muy fiables, una tasa baja de falsos positivos no significa que no haya ninguno; estos casos sí se dan. Si utilizas un detector de IA para revisar documentos legales y este indica que un documento ha sido generado por IA, es importante que revises el texto tú mismo antes de sacar una conclusión definitiva.
Por qué la detección de la IA es importante en el ámbito jurídico: los tribunales y los equipos de cumplimiento normativo se muestran cautelosos ante las pruebas probabilísticas de que un texto ha sido generado por IA. Un texto jurídico elaborado con IA podría contener errores graves, inexactitudes o afirmaciones erróneas.
Documentos jurídicos habituales en los que el uso de la IA plantea riesgos
Los siguientes documentos jurídicos habituales entrañan riesgos importantes cuando se utiliza la inteligencia artificial para generarlos:
- Contratos y modificaciones: Alucinaciones. La IA suele «alucinar» (crear) casos que no existen. Si su contrato o modificación hace referencia a leyes o normativas que no existen, la validez del documento queda en entredicho y usted y su bufete corren el riesgo de sufrir sanciones.
- Respuestas a la solicitud de información: las respuestas a la solicitud de información deben incluir la información solicitada y pertinente. Dado que la IA suele generar información o tiende a ser prolija, el texto generado por IA en un documento de solicitud de información corre un alto riesgo de incluir información objetivamente incorrecta, pero que parece legítima. Los documentos de solicitud de información contaminados podrían perjudicar a su cliente y suponer un gran quebradero de cabeza.
- Notas internas y resúmenes: las notas y los resúmenes generados con IA podrían contener «alucinaciones» de la IA, como leyes que no existen y hechos que no han ocurrido, lo que puede inducir a error a los abogados y hacerles perder el tiempo.
- Borradores enviados por los clientes: Cada vez son más las personas que utilizan la IA generativa para redactar textos. Esto significa que hay muchas posibilidades de que tu cliente te envíe documentos generados por IA. Desde documentos de investigación y cuestionarios hasta contratos, es fundamental saber dónde se ha utilizado la IA para poder proteger mejor a tu cliente.
Detección mediante IA frente a revisión manual: ¡utiliza ambas!
Necesitas la detección de IA para crear un programa que resalte las secciones de los documentos que deben revisarse manualmente. El motivo es el siguiente: la detección de IA puede detectar irregularidades estadísticas que indiquen el uso de IA, mientras que la revisión manual permite detectar contenidos incorrectos o perjudiciales.
La combinación de la detección mediante IA con la revisión manual reduce la responsabilidad legal posterior, ya que permite garantizar que un contenido no ha sido redactado con IA y, en caso contrario, subsanar los vicios jurídicos que podrían acabar perjudicando a tu cliente.
Cómo deben actuar los asistentes jurídicos ante un documento marcado como «IA»
Los asistentes jurídicos deben gestionar los documentos marcados como «IA» siguiendo un flujo de trabajo paso a paso que sirva de apoyo a los asistentes jurídicos con los que colaboran, a los abogados que dirigen el bufete y a los clientes a los que prestan servicio. Este flujo de trabajo paso a paso es el siguiente:
- Revisa tu política interna sobre el «uso aceptable de la IA», si es que dispones de ella.
- Si un documento se ha marcado como «IA», tras la revisión jurídica del documento por parte de la IA, comprueba este uso pasándolo por el detector de IA una vez más y leyéndolo tú mismo.
- Comprueba el historial y los metadatos del documento; por ejemplo, si ves que el documento estaba vacío antes de que se pegara una gran cantidad de texto, es un buen indicio de que el documento se ha creado con IA.
- Utiliza el historial del documento, los metadatos y/o los resultados del detector de IA como pruebas, y reúne todas estas pruebas para reforzar tu afirmación de que un documento concreto fue generado por IA.
- Documenta todas las pruebas que recopiles y explica cómo las has obtenido, qué indican y qué significan, de modo que dispongas de un registro de auditoría.
Cómo elegir la herramienta de detección de IA adecuada para los equipos jurídicos
La intervención humana es absolutamente necesaria. La detección mediante IA os ayuda a ti y a tu equipo a saber exactamente dónde buscar y qué revisar, de forma más rápida y eficaz.
La combinación de la detección mediante IA con la revisión manual reduce el riesgo de responsabilidad legal posterior, ya que te proporciona visibilidad y confianza en cada documento que elaboráis tú y tu equipo.
Cómo deben actuar los abogados ante un documento marcado como «IA»
Si se indica que un documento contiene contenido generado por IA, sigue esta guía paso a paso:
- Revisa la política interna de tu empresa sobre el «uso aceptable de la IA».
- Si un documento se ha marcado como «AI», vuelve a escanearlo para confirmar que los resultados son coherentes.
- Comprueba el historial y los metadatos del documento; por ejemplo, si ves que el documento estaba vacío antes de que se pegara una gran cantidad de texto, es un buen indicio de que el documento se ha creado con IA.
- Utiliza el historial del documento, los metadatos y/o los resultados del detector de IA como pruebas, y reúne todas estas pruebas para reforzar tu afirmación de que un documento concreto fue generado por IA.
- Documenta todas las pruebas que recopiles y explica cómo las has obtenido, qué indican y qué significan, de modo que dispongas de un registro de auditoría.
Cómo elegir la herramienta de detección de IA adecuada para los equipos jurídicos
La elección de la herramienta de detección de IA adecuada para los equipos jurídicos depende de vuestro flujo de trabajo, de la política de IA de vuestro bufete, del ámbito jurídico en el que trabajéis y de los clientes a los que prestéis servicio. Algunas consideraciones clave:
- El detector de IA puede verificar si un texto ha sido generado por IA en distintos estilos de redacción jurídica.
- El detector de IA cuenta con controles de falsos positivos para evitar que los documentos redactados por personas sean marcados como generados por IA.
- El detector de IA incluye garantías de privacidad y de no uso para fines de entrenamiento, con el fin de proteger a su empresa y a sus clientes.
- El detector de IA ofrece una trazabilidad de nivel empresarial, lo que permite que toda tu empresa lo utilice.
- El detector de IA debería ser capaz de cuantificar el grado de uso de la IA en un documento concreto.
De entre las herramientas disponibles en el mercado, Pangram es la única lo suficientemente sólida como para distinguir de forma fiable entre textos jurídicos y textos generados por IA, se integra en los flujos de trabajo jurídicos existentes, es compatible con los controles de seguridad de datos y privacidad de más alto nivel para empresas y presenta una tasa de falsos positivos consistentemente baja.
Las herramientas de detección permiten a los abogados preservar la integridad de los documentos y proteger a su bufete, a su empresa y a sus clientes.
Ayuda a tu equipo jurídico utilizando Pangram.
para recibir nuestras actualizaciones.
