Quora如何运用全字母句处理AI生成的答案

2024年4月，Pangram Labs与Quora达成合作，协助其应对利用ChatGPT发布虚假AI生成内容的垃圾信息发布者。

Quora是全球规模最大的网站之一，截至2024年8月，其全球流量排名位列第33位，每月页面访问量超过10亿次（数据来源：Semrush）。该平台允许用户发布问题，这些问题将被浏览网站的其他用户看到并回答。

我们的使命是分享并拓展世界知识。我们坚信，大量知识被困在人们的头脑中，只要将正确的问题与合适的人匹配，就能释放这些知识。

Lexie Wu，Quora内容审核团队负责人兼集团产品经理

人工智能的回答有什么问题？

一个由人工智能撰写的示例答案

生成式人工智能让垃圾信息发送者能够轻松生成数百甚至数千条看似真实的回答。有人可能会辩称，人工智能生成的回答总体上仍是积极的。用户看到的答案或许质量不高或中等，但方向上往往是正确的。这总比没有答案要好，对吧？

在真空中或许如此——但在Quora上采用人工智能回答存在若干不良影响。

1. 当问题已有答案时，这会阻止他人花时间撰写自己的解答。因此，即使问题获得了不错的AI答案，AI的回答反而降低了用户分享自身真实经验的可能性。
2. 人工智能挤占真实内容的空间。如同许多平台一样，浏览量和互动量属于零和博弈。每当用户在信息流或摘要中看到人工智能生成的内容，其他真实创作者就失去了本应获得的互动机会。
3. 声誉风险。人们能够分辨出自己阅读的答案是否由人工智能撰写。这引发了一个问题：既然读到的都是AI答案，为何还要访问Quora？直接去ChatGPT不就好了？Quora与ChatGPT的价值主张截然不同——它提供真实用户撰写的可信答案——并精心管理平台以确保这一特质得以延续。

为什么使用全字母句？

有时仅凭肉眼很难分辨内容是否由人工智能生成。其他时候，这纯粹是项耗时的工作，需要审核员仔细阅读一段时间才能确定。自动化这个过程能解放原本耗费大量成本的审核工作，从长远来看既节省时间又节约资金。

虽然有几款开源解决方案旨在解决GPT-2的人工智能检测问题，但这些方案在最常用的超大规模语言模型（LLM）GPT-4上均未能有效运作。诸如Quora等平台需要能识别包括GPT-4在内的高级模型输出内容的解决方案。理想情况下，该方案应能持续适配新型LLM——毕竟前沿级语言模型每隔数月就会迭代更新。

Pangram凭借其强大的评估能力，在准确率上远超GPTZero等竞争对手（优势超过100倍），是2024年4月唯一能可靠检测GPT-4生成内容的解决方案之一，至今仍以显著优势保持着最精准的人工智能检测模型地位。

此外，Pangram的数据管道具备对未来大型语言模型（LLM）版本的内置适应性。该系统能在新LLM发布后的24小时内生成合成训练数据并完成新模型训练。2024年7月，Pangram将语言支持扩展至20余种语言，并持续优化建模方案以确保为客户提供高精度服务。

影响

截至2024年9月，Quora已识别出超过100万条人工智能生成的帖子，从而提升了全站内容质量，并保持了其作为真实可信信息来源的声誉。

Pangram持续为信任与安全团队提供效能倍增支持，赋予其制定人工智能内容政策的信心与能力。

有需要使用AI检测的场景吗？请通过info@pangram.com联系我们！