¿Qué ocurre cuando un detector de IA comete un error?

A medida que la inteligencia artificial se generaliza cada vez más, los profesores quieren poder saber si los alumnos están utilizando la IA para que les redacte los trabajos. Un detector de IA para profesores parece la solución más lógica, pero muchos se muestran reticentes. ¿Qué pasaría si el software cometiera un error?

Esa preocupación es comprensible. Hasta ahora, los detectores de IA han sido bastante poco fiables. Numerosos estudios han revelado que estas herramientas a menudo no logran reconocer cuándo un texto ha sido generado por IA, y que un tramposo decidido puede engañarlas introduciendo ligeras paráfrasis o errores ortográficos. Estos falsos negativos son bastante problemáticos, ya que permiten que algunos textos generados por ordenador pasen desapercibidos.

Pero lo más preocupante es la elevada tasa de falsos positivos de los detectores tempranos. Estos se producen cuando un texto que, en realidad, ha sido escrito por un ser humano se marca como generado por IA, lo que provoca estrés y sanciones injustificadas para los alumnos que no han hecho nada malo, una vigilancia innecesaria por parte de los profesores y una pérdida de confianza en el centro educativo.

El problema es especialmente grave entre los estudiantes para quienes el inglés no es su lengua materna. Varias herramientas de detección de IA muestran un sesgo contra los hablantes no nativos. Un estudio de 2023 de la Universidad de Stanford reveló que varios detectores identificaron de forma unánime (y errónea) uno de cada cinco ensayos escritos por un hablante no nativo de inglés como generado por IA. Casi todos ellos fueron señalados por error por al menos uno de los detectores.

¿Con qué frecuencia cometen errores los detectores de IA?

Los detectores de IA más populares reconocen que cometen este tipo de errores con bastante frecuencia. TurnItIn, por ejemplo, anuncia una tasa de falsos positivos de aproximadamente 1 de cada 200, lo que significa que, de cada 200 trabajos que un profesor analice con la herramienta, el trabajo original de un estudiante será marcado erróneamente como generado por IA. Otras herramientas anuncian tasas de falsos positivos de entre 1 de cada 500 y 1 de cada 100, mientras que estudios independientes han revelado que las cifras pueden ser incluso más elevadas.

Por otro lado, la tasa de falsos positivos de Pangram es de solo 1 entre 10 000, según las pruebas realizadas con decenas de millones de documentos. Nuestro modelo es especialmente fiable cuando se trata de textos de más de unos pocos cientos de palabras redactados en frases completas, precisamente el tipo de textos que los estudiantes suelen entregar en los trabajos importantes.

¿Cómo pueden saber los profesores si un detector de IA ha marcado por error un texto escrito por un alumno?

Cuando un detector de IA señala un texto como generado por IA, el profesor dispone de varias opciones para confirmar el resultado. En primer lugar, debería simplemente preguntar al alumno sobre el uso de la IA, abordando la conversación con humildad. Si el resultado fuera realmente un error, el alumno podría mostrar pruebas de su proceso de redacción, como un historial de revisiones completo en Google Docs o copias de los borradores iniciales. En este caso, los profesores pueden reconocer que probablemente se haya tratado de un falso positivo extremadamente raro. El alumno también debería poder explicar su proceso de redacción con detalle. Esta conversación podría poner de manifiesto una comprensión profunda del trabajo entregado, lo que sugeriría que el alumno lo escribió efectivamente por sí mismo. Por otro lado, podría revelar que el alumno utilizó la IA de una forma que no se dio cuenta de que era incorrecta, lo que confirmaría los resultados del detector.

Si el alumno sigue insistiendo en que no ha utilizado la IA, pero no puede aportar pruebas ni explicar su trabajo de forma coherente, sigue siendo aceptable darle el beneficio de la duda. Al fin y al cabo, sería tremendamente perjudicial que se le castigara por algo que no ha hecho. En este caso, los profesores pueden indicar a los alumnos que mantengan un registro de su proceso de redacción en el futuro, lo que ayudará a aclarar cualquier malentendido posterior. Si el alumno miente a sabiendas sobre el uso de IA, probablemente se lo pensará dos veces antes de volver a hacerlo. Pero si su trabajo sigue siendo detectado por un detector de IA preciso como Pangram, probablemente sea el momento de elevar el nivel de la situación. Las probabilidades de un solo error ya son pequeñas; las de múltiples errores son minúsculas.