El tres por ciento de las reseñas que aparecen en la primera página de Amazon están generadas por IA

El contenido generado por la IA se ha convertido en la norma y puede aparecer en todo tipo de soportes, desde revistas académicas hasta titulares de noticias y trabajos de investigación. Ahora, la IA también está influyendo en nuestros hábitos de compra.

Amazon fue el primer minorista en línea en introducir una función de reseñas de clientes, pero el sistema podría estar siendo manipulado por grandes modelos de lenguaje (LLM) como ChatGPT, Claude y Gemini. Publicar reseñas generadas por IA es una práctica ilegal según la legislación federal de Estados Unidos.

Amazon ha afirmado que se están utilizando herramientas sofisticadas para detectar historiales de reseñas sospechosos y eliminar las reseñas generadas por IA antes de que un cliente las vea.

Nuestro estudio

Nuestro estudio indica que Amazon aún tiene trabajo por delante.

En Pangram, queríamos averiguar cuántas reseñas de Amazon están generadas por IA y si tienden más a ser positivas o negativas en comparación con las escritas por personas.

Para ello, recopilamos 30 000 reseñas de productos que aparecían en primera página de 500 de los productos más vendidos de Amazon y las analizamos con nuestro detector de IA. Analizamos diez categorías de productos más vendidos, entre las que se incluyen productos para bebés, juguetes y juegos, ordenadores portátiles, dispositivos médicos, bienestar y relajación, belleza y muebles. Registramos la puntuación por estrellas de cada reseña y si se trataba de una «Compra verificada» o no.

Hemos encontrado numerosas pruebas de reseñas generadas por IA en los libros más vendidos de Amazon

Hemos constatado que el 3 % del total de reseñas analizadas —909 en total— fueron generadas por IA con un alto grado de certeza. Con el creciente acceso a herramientas de IA como ChatGPT Agent, las «granjas de contenido» pueden producir automáticamente reseñas generadas por IA a gran escala. A menos que las plataformas tomen medidas, pronto será difícil confiar en cualquier reseña que se encuentre en Internet.

La IA escribe más reseñas de cinco estrellas que los humanos

De los 500 productos más vendidos en Amazon que analizamos, el 74 % de las reseñas escritas por IA otorgaban a los productos una valoración de 5 estrellas. Esto contrasta con el 59 % de las reseñas legítimas escritas por personas. Lo contrario también es cierto: las personas escribieron más reseñas de 1 estrella que la IA, un 10 % frente a un 22 %.

¿Y qué hay de las reseñas con la etiqueta «Compra verificada»?

La insignia «Compra verificada» suele ser considerada por los clientes como un indicador fiable de confianza: demuestra que la persona que ha escrito la reseña realmente ha comprado el producto. Nuestro estudio reveló que el 93 % de las reseñas generadas por IA que aparecen en la primera página (93 %) incluían la insignia «Compra verificada», lo que demuestra que esta insignia por sí sola ya no es un símbolo fiable de confianza.

Si una reseña la ha escrito una IA, ¿hasta qué punto es fiable?

Es probable que algunas reseñas las escriban los vendedores utilizando modelos de lenguaje grande (LLM) para simular comentarios y mejorar la valoración de sus productos. Otras pueden ser escritas por clientes bienintencionados que no tienen tiempo para redactar una ellos mismos o que no encuentran las palabras adecuadas para expresar su opinión sobre un producto.

No importa, porque el resultado es una descripción del producto que puede ser inexacta.

Si las reseñas escritas por la IA están inflando las valoraciones de los productos, esto podría afectar directamente a las decisiones de compra.

Hay que reconocer que Amazon ha intentado hacer frente al problema de las reseñas generadas por IA, pero, a juzgar por los resultados del estudio, sus esfuerzos no están dando los frutos esperados.

El volumen de reseñas generadas por IA que pasan desapercibidas sugiere que Amazon aún tiene trabajo por delante.

Las reseñas generadas por IA minan la confianza, y dado que las reseñas en línea son uno de los principales factores en los que nos basamos a la hora de decidir qué producto comprar, podemos empezar a dudar de si merece la pena realizar la compra.

Cómo detectar las reseñas generadas por IA

Cuando leas reseñas, fíjate en si se mencionan detalles concretos del producto. Los comentarios genéricos o el lenguaje «vago» pueden ser un indicio de que la reseña ha sido generada por IA.

Si tienes intención de dejar una reseña, resiste la tentación de utilizar ChatGPT u otro modelo de lenguaje grande (LLM). Tu experiencia y tu opinión sinceras son importantes y pueden ayudar a otras personas a tomar una decisión informada a la hora de comprar un producto.

También puedes utilizar el detector de IA de Pangram para comprobar que las reseñas que estás leyendo son auténticas. Nuestra extensión de Chrome te permite seleccionar cualquier texto en Internet para comprobar si contiene contenido generado por IA.

Conclusión

A pesar de que las reseñas generadas por IA son ilegales, siguen pasando desapercibidas y engañando a los clientes. ¡Ni siquiera la propia Amazon es capaz de detectarlas todas!

Las empresas tienen la responsabilidad de garantizar que los clientes reciban información veraz sobre los productos, y no la opinión de ChatGPT, por lo que es necesario tomar más medidas para evitar que esta se publique en los sitios web de comercio electrónico.