跳转至主要内容

使用 Pangram Image 1.0 检测图像和视频中的 AI 内容。快来试试吧

案例研究

Quora 如何利用全字母句来处理由 AI 生成的答案

Quora 如何利用 Pangram 的 API 大规模检测和处理由 AI 生成的答案,从而保护答案质量免受 ChatGPT 垃圾信息的侵害。

2024年9月26日

2024年4月,Pangram Labs 与 Quora 合作,协助其打击利用 ChatGPT 发布虚假、由人工智能生成的回答的垃圾信息发布者。

Quora 是全球最大的网站之一,截至 2024 年 8 月,其流量排名全球第 33 位,每月页面浏览量超过 10 亿次(来源:Semrush)。用户可以在 Quora 上发布问题,浏览该网站的其他用户可以看到并回答这些问题。

“我们的使命是分享和拓展世界知识。我们坚信,许多知识都封存在人们的脑海中,只要将正确的问题与合适的人匹配起来,我们就能提取出这些知识。”

Lexie Wu,Quora 负责内容审核的集团产品经理

人工智能生成的答案有什么问题?

一个由人工智能生成的答案示例一个由人工智能生成的答案示例

生成式人工智能让垃圾信息发送者能够不费吹灰之力就生成数百甚至数千条看似真实的回答。有人可能会认为,人工智能生成的回答总体上还是有益的。用户看到的回答虽然质量可能较低或中等,但方向上往往是正确的。这总比完全没有回答要好,对吧?

如果孤立来看,或许是这样——但在Quora上使用AI生成的答案会带来一些不良影响。

  1. 当一个问题已经得到解答时,这会让人不愿花时间撰写自己的答案。因此,即使一个问题可能已经得到了一个还不错的AI答案,但这个AI答案反而会降低人们分享自身实际经验的意愿。
  2. 人工智能内容挤占了真实内容的空间。与许多平台一样,浏览量和互动量是零和游戏。每当用户在信息流或精选内容中看到人工智能生成的内容时,其他真正的创作者就错失了本应获得的互动机会。
  3. 声誉风险。人们能分辨出自己阅读的答案是否由人工智能撰写。这引发了一个问题:既然最终看到的只是人工智能生成的答案,那还有什么必要访问Quora呢?为什么不直接去ChatGPT呢?Quora与ChatGPT有着不同的价值主张——即来自真实用户的真实答案——并且通过精心管理平台来确保这一特质得以延续。

为什么要使用全字母句?

有时仅凭肉眼很难判断某篇内容是否由人工智能撰写。而在其他情况下,这纯粹是一项耗时的工作,需要审核员仔细阅读一段时间才能确定。通过自动化这一流程,可以释放原本耗费大量资源的审核工作,从而从长远来看节省时间和成本。

虽然已有几款开源解决方案旨在解决 GPT-2 的人工智能检测问题,但这些方案在最常用的巨型语言模型(LLM)GPT-4 上均未能取得良好效果。Quora 等平台希望找到一种能够对 GPT-4 这类先进模型的输出结果进行分类的解决方案。理想情况下,该解决方案应能持续适配新的 LLM,因为每隔几个月就会有新的前沿级语言模型问世。

Pangram 凭借其强大的评估体系,其准确率比 GPTZero 等竞争对手高出 100 多倍,是 2024 年 4 月唯一能够可靠检测 GPT-4 生成内容的解决方案之一,至今仍是准确率遥遥领先的 AI 检测模型。

此外,Pangram 的数据管道具备应对未来大型语言模型(LLM)新版本的内置鲁棒性。当新的大型语言模型发布后,它能在 24 小时内生成合成训练数据并训练出新模型。2024 年 7 月,Pangram 将支持的语言扩展至 20 多种,并持续优化建模方案,以确保为客户提供高精度服务。

影响

截至2024年9月,Quora已识别出超过100万篇由人工智能生成的帖子,这不仅提升了全站的内容质量,也维护了其作为真实可靠信息来源的声誉。

Pangram 继续作为信任与安全团队的“力量倍增器”,为他们提供制定人工智能内容相关政策的必要工具,使他们能够充满信心地开展工作。




您有AI检测的应用场景吗?请通过info@pangram.com 联系我们!


马克斯·斯佩罗
马克斯·斯佩罗首席执行官、联合创始人

马克斯是一位经验丰富的机器学习工程师。他最近在Nuro从事自动驾驶汽车相关工作,负责领导该公司的主动学习项目。此前,他在谷歌、Two Sigma和Yelp拥有丰富的成功部署机器学习产品的经验。

马克斯拥有斯坦福大学理论计算机科学学士学位和人工智能硕士学位。除了对游戏开发的热情外,他还是《万智牌》Cube社区的活跃成员。

查看 Max Spero 的更多内容

相关阅读

如何识别AI生成的评论
案例研究

如何识别AI生成的评论

2023年12月5日
让您的企业具备应对法律人工智能(LLM)和生成式人工智能(GenAI)的能力
案例研究

让您的企业具备应对法律人工智能(LLM)和生成式人工智能(GenAI)的能力

2024年1月30日
每天发布6万篇由人工智能生成的新闻文章
案例研究

每天发布6万篇由人工智能生成的新闻文章

2024年8月5日
Pangram 在串通代理群中的表现
案例研究

Pangram 在串通代理群中的表现

2026年9月10日
“Pangram”能探测到“双子座4号”上的氩气吗?
案例研究

“Pangram”能探测到“双子座4号”上的氩气吗?

2026年11月2日
Gradpilot 如何利用“全字母句”帮助学生找到自己的声音
案例研究

Gradpilot 如何利用“全字母句”帮助学生找到自己的声音

2025年9月15日