Quora 如何利用全字母句来处理由 AI 生成的答案

2024年4月，Pangram Labs 与 Quora 合作，协助其打击利用 ChatGPT 发布虚假、由人工智能生成的回答的垃圾信息发布者。

Quora 是全球最大的网站之一，截至 2024 年 8 月，其流量排名全球第 33 位，每月页面浏览量超过 10 亿次（来源：Semrush）。用户可以在 Quora 上发布问题，浏览该网站的其他用户可以看到并回答这些问题。

“我们的使命是分享和拓展世界知识。我们坚信，许多知识都封存在人们的脑海中，只要将正确的问题与合适的人匹配起来，我们就能提取出这些知识。”

Lexie Wu，Quora 负责内容审核的集团产品经理

人工智能生成的答案有什么问题？

一个由人工智能生成的答案示例

生成式人工智能让垃圾信息发送者能够不费吹灰之力就生成数百甚至数千条看似真实的回答。有人可能会认为，人工智能生成的回答总体上还是有益的。用户看到的回答虽然质量可能较低或中等，但方向上往往是正确的。这总比完全没有回答要好，对吧？

如果孤立来看，或许是这样——但在Quora上使用AI生成的答案会带来一些不良影响。

1. 当一个问题已经得到解答时，这会让人不愿花时间撰写自己的答案。因此，即使一个问题可能已经得到了一个还不错的AI答案，但这个AI答案反而会降低人们分享自身实际经验的意愿。
2. 人工智能内容挤占了真实内容的空间。与许多平台一样，浏览量和互动量是零和游戏。每当用户在信息流或精选内容中看到人工智能生成的内容时，其他真正的创作者就错失了本应获得的互动机会。
3. 声誉风险。人们能分辨出自己阅读的答案是否由人工智能撰写。这引发了一个问题：既然最终看到的只是人工智能生成的答案，那还有什么必要访问Quora呢？为什么不直接去ChatGPT呢？Quora与ChatGPT有着不同的价值主张——即来自真实用户的真实答案——并且通过精心管理平台来确保这一特质得以延续。

为什么要使用全字母句？

有时仅凭肉眼很难判断某篇内容是否由人工智能撰写。而在其他情况下，这纯粹是一项耗时的工作，需要审核员仔细阅读一段时间才能确定。通过自动化这一流程，可以释放原本耗费大量资源的审核工作，从而从长远来看节省时间和成本。

虽然已有几款开源解决方案旨在解决 GPT-2 的人工智能检测问题，但这些方案在最常用的巨型语言模型（LLM）GPT-4 上均未能取得良好效果。Quora 等平台希望找到一种能够对 GPT-4 这类先进模型的输出结果进行分类的解决方案。理想情况下，该解决方案应能持续适配新的 LLM，因为每隔几个月就会有新的前沿级语言模型问世。

Pangram 凭借其强大的评估体系，其准确率比 GPTZero 等竞争对手高出 100 多倍，是 2024 年 4 月唯一能够可靠检测 GPT-4 生成内容的解决方案之一，至今仍是准确率遥遥领先的 AI 检测模型。

此外，Pangram 的数据管道具备应对未来大型语言模型（LLM）新版本的内置鲁棒性。当新的大型语言模型发布后，它能在 24 小时内生成合成训练数据并训练出新模型。2024 年 7 月，Pangram 将支持的语言扩展至 20 多种，并持续优化建模方案，以确保为客户提供高精度服务。

影响

截至2024年9月，Quora已识别出超过100万篇由人工智能生成的帖子，这不仅提升了全站的内容质量，也维护了其作为真实可靠信息来源的声誉。

Pangram 继续作为信任与安全团队的“力量倍增器”，为他们提供制定人工智能内容相关政策的必要工具，使他们能够充满信心地开展工作。

---

您有AI检测的应用场景吗？请通过info@pangram.com 联系我们！