Cómo utiliza Quora Pangram para gestionar las respuestas redactadas por IA

En abril de 2024, Pangram Labs se asoció con Quora para ayudarles a hacer frente a los spammers que utilizaban ChatGPT para responder a las publicaciones con respuestas falsas generadas por IA.

Quora es uno de los sitios web más grandes del mundo; ocupa el puesto 33 en el ranking mundial de sitios web con mayor tráfico y, en agosto de 2024, registraba más de mil millones de visitas al mes (Fuente: Semrush). Quora permite a los usuarios publicar preguntas, que podrán ver y responder otras personas que naveguen por el sitio.

«Nuestra misión es compartir y ampliar el conocimiento mundial. Estamos convencidos de que gran parte del conocimiento permanece encerrado en la mente de las personas, y que, si sabemos dirigir las preguntas adecuadas a las personas adecuadas, podemos extraer ese conocimiento».

Lexie Wu, directora de producto del grupo y responsable de moderación en Quora

¿Cuál es el problema con las respuestas generadas por IA?

Un ejemplo de respuesta redactada por una IA

La IA generativa permite a los spammers generar cientos o miles de respuestas que parecen auténticas con muy poco esfuerzo. Se podría argumentar que una respuesta generada por IA sigue siendo positiva en general. Los usuarios obtienen una respuesta que, aunque quizá sea de baja o media calidad, suele estar orientada en la dirección correcta. Eso es mejor que no tener respuesta alguna, ¿no?

Quizás en un contexto aislado, pero la presencia de respuestas generadas por IA en Quora conlleva varios efectos indeseables.

1. Cuando una pregunta ya tiene respuesta, esto disuade a otros de dedicar tiempo a redactar su propia respuesta. Así que, aunque una pregunta haya recibido una respuesta aceptable generada por IA, dicha respuesta hace menos probable que alguien decida compartir su propia experiencia real.
2. La IA desplaza a las publicaciones auténticas. Al igual que en muchas plataformas, las visualizaciones y la interacción son un juego de suma cero. Cada vez que un usuario ve contenido generado por IA en su feed o resumen, otros creadores reales se pierden la interacción que se merecen.
3. Riesgo reputacional. La gente se da cuenta cuando una respuesta que está leyendo ha sido redactada por una IA. Esto plantea la siguiente pregunta: ¿por qué visitar Quora si al final solo vas a leer respuestas generadas por una IA? ¿Por qué no ir directamente a ChatGPT? Quora ofrece una propuesta de valor diferente a la de ChatGPT —respuestas auténticas de personas reales— y gestiona su plataforma para garantizar que esto siga siendo así.

¿Por qué utilizar Pangram?

A veces, a simple vista resulta difícil saber si un texto ha sido redactado por una IA. Otras veces, se trata simplemente de una tarea que requiere mucho tiempo, ya que el moderador debe leerlo con atención durante un rato antes de estar seguro. Automatizar este proceso libera a los moderadores de una labor que, de otro modo, resultaría costosa, lo que a la larga supone un ahorro de tiempo y dinero.

Aunque existen algunas soluciones de código abierto destinadas a resolver el problema de la detección de IA en GPT-2, ninguna ha funcionado bien con GPT-4, el modelo de lenguaje a gran escala (LLM) más utilizado. Plataformas como Quora buscan una solución capaz de clasificar los resultados incluso de modelos avanzados como GPT-4. Lo ideal sería que la solución siguiera funcionando con los nuevos LLM, ya que cada dos meses se lanzan al mercado nuevos modelos de lenguaje de vanguardia.

Pangram, con evaluaciones sólidas y una precisión más de 100 veces superior a la de competidores como GPTZero, fue una de las únicas opciones capaces de detectar de forma fiable contenidos redactados por GPT-4 en abril de 2024, y sigue siendo, con diferencia, el modelo de detección de IA más preciso en la actualidad.

Además, el proceso de tratamiento de datos de Pangram incorpora una capacidad de adaptación a futuras versiones de los modelos de lenguaje grande (LLM). Es capaz de generar datos de entrenamiento sintéticos y entrenar un nuevo modelo en un plazo de 24 horas desde que un LLM está disponible. En julio de 2024, Pangram amplió su soporte lingüístico a más de 20 idiomas y sigue realizando mejoras en los modelos para garantizar una alta precisión a sus clientes.

Repercusión

A fecha de septiembre de 2024, Quora ha identificado más de un millón de publicaciones generadas por IA, lo que ha permitido mejorar la calidad del contenido en toda la plataforma y mantener su reputación como fuente de información auténtica y fiable.

Pangram sigue actuando como un multiplicador de recursos para los equipos de Confianza y Seguridad, proporcionándoles las herramientas que necesitan para establecer con seguridad políticas relacionadas con el contenido generado por IA.

¿Tienes algún caso de uso para la detección mediante IA? ¡Escríbenos a info@pangram.com!