关于高精度AI生成文本检测的技术报告

Pangram Labs 人工智能生成文本分类器的训练流程

引言

在 Pangram Labs，我们正在构建最优秀的人工智能文本检测模型，以保护互联网免受虚假、欺骗性和低质量内容的泛滥。我们坚信，在由大型语言模型（LLMs）驱动的世界中，人类需要配备最强大的工具来辨别真相，而我们致力于提供恰如其分的技术来满足这一需求。

Pangram Labs 开发了一款强大的分类器，用于检测可能被用于垃圾信息或欺诈内容的 AI 生成的文本。我们的模型比市面上的其他方案要好多少？在这篇博客文章中，我们将对模型的性能进行全面分析，并首次发布我们的公开技术白皮书。

这篇博文将涵盖以下几个主题：

• 为什么检测AI生成的文本是一个重要问题？
• 哪款AI生成内容检测工具最好？
• 为什么高精度很重要？
• Pangram Labs 能够检测哪些类型的内容？
• Pangram Labs 是如何着手解决这个问题的？

如需了解包括方法论在内的更深入的技术解析，请参阅我们关于“全字母文本AI生成文本分类器”的技术报告。

简而言之

我们利用近2000份文档进行了竞争性基准测试，以确定关键准确率指标，包括总体准确率、误报实例和漏报实例。

Our text classifier outperforms academic methods and shows significantly lower error rates in a comprehensive benchmark against other available AI text detection methods. Our model demonstrates 99.85% accuracy with 0.19% false positive rate across thousands of examples across ten different categories of writing and eight commonly used large language models. Other methods fail on more capable LLMs such as GPT-4 (<=75% accuracy) while Pangram Labs sustains 99-100% accuracy across all language models tested.

整体准确度对比

人工智能生成文本简介

随着人工智能能力达到一个转折点，ChatGPT等大型语言模型（LLMs）在2023年迅速走红。这些驱动人工智能助手的LLMs能够回答问题、集思广益、撰写内容，且听起来极具说服力，宛如真人。这带来了一些积极成果——信息获取比以往任何时候都更加便捷，而这些助手还能帮我们节省处理琐碎任务的时间。 然而，任何人几乎无需付出任何努力就能生成极具人类特征的文本——这本身也带来了一系列弊端。垃圾邮件发送者可以撰写更难被过滤的邮件；电商平台卖家能在几分钟内生成数千条看似真实的评论；恶意行为者则可以利用社交媒体，通过数千个由LLM驱动的机器人来操纵公众舆论。

遗憾的是，这些社会风险无法在大型语言模型（LLM）层面得到缓解——语言模型无法分辨一条请求是正当的，还是垃圾信息发送者制造的成千上万条请求中的一条。正因如此，我们需要在应用层部署内容过滤器，以确保人类空间保持其应有的特性。

为什么 Pangram Labs 如此注重准确性

我们听到了许多对这一领域工作的质疑。有人认为这个问题根本无法解决，有人指出AI检测器“根本不起作用”，还有人认为只需通过提示词就能绕过检测。甚至有人认为，即便现在可行，明年也会变得更难，等到通用人工智能（AGI）问世时，这将变得完全不可能。

我们的观点略有不同。我们坚信，这个问题不仅能够解决，而且必须解决。无论难度多大，无论我们需要投入多少时间来打造用户能够使用并信赖的产品，我们都义无反顾。如果我们不采取行动，互联网很快就会被人工智能垃圾信息淹没。人类的声音将被噪音淹没。

对我们而言，确保问题得到解决意味着要不断提升评估集的难度。早期的评估很容易就达到100%的准确率，但很快我们就意识到这并不能反映实际准确率。通过构建更具挑战性的评估集，我们能够以客观的方式衡量我们的进步。 我们认为，当前的基准测试难度已略高于现实世界中垃圾信息发送者的水平，且该基准测试已接近极限。当我们公布新数据时，可能看起来其他方法的表现甚至更差，但实际上，我们将推出难度更高的评估集，届时最强大的AI系统将被逼至极限，以生成看似真实的文本，而我们的目标仍是能够以99%的准确率将其识别出来。

这个问题永远无法彻底解决，但随着大型语言模型（LLMs）能力的不断提升，我们必须稳步前进，以免被时代抛在身后。这就是我们当初的初衷，也是我们将坚持到底的目标。

AI检测工具对比

在我们的技术报告中，我们将Pangram Labs与两款领先的AI检测工具，以及2023年最先进的AI检测学术方法进行了对比。

我们比较：

• Pangram Labs
• GPTZero
• Originality.ai
• DetectGPT

我们的基准测试包含1,976份文档——其中一半由人类撰写，另一半则由八款最流行的LLM（大型语言模型）生成，其中包括ChatGPT和GPT-4。

整体准确度对比

关于这些数字的含义，这里做个简要说明：

• 准确率：该工具正确分类的文档占总文档的百分比是多少？
• 误报率：在所有人工文档中，有多少被错误地归类为AI生成的？
• 假阴性率：在所有AI生成的文档中，有多少被错误地归类为人工撰写？

为了具体说明误报率——9%意味着每11份人类撰写的文档中就有1份会被标记为AI生成。2%的误报率意味着每50份人类撰写的文档中就有1份会被标记为AI生成。而0.67%则意味着每150份人类撰写的文档中才有1份会被标记为AI生成。

同样，10%的漏检率意味着每十份AI生成的文档中就有一份未能被检测出来，而1.4%的漏检率则意味着每七十份AI生成的文档中才有一份未能被检测出来。

请思考这些结果的含义。一个误报率达9%的检测模型是不可靠的——否则，错误指控将层出不穷。而一个漏报率达10%的检测模型则会让大量AI垃圾信息漏网，导致无论遭遇何种攻击，用户仍会遭受信息轰炸。

深入分析结果

我们的基准测试分为两个不同的维度：文本领域和基础大语言模型（LLM）。“文本领域”（或简称“领域”）是指特定类型的文本。例如，初中作文的阅读体验与学术论文截然不同，而学术论文又与电子邮件大相径庭。通过将结果按不同领域进行分类，我们可以更全面地了解我们在哪些方面表现优异，以及应重点在哪些方面进行改进。

按文本领域划分的准确率

结果表明，在评估的全部十个领域中，Pangram Labs 的表现均优于 GPTZero 和 Originality。

其中一个领域——电子邮件——表现尤为突出，因为Pangram Labs在其训练数据中并未包含任何电子邮件内容。我们在电子邮件方面的表现完全得益于训练了一个强大的模型，该模型能够泛化到大型语言模型（LLM）所能生成的绝大多数文本类别。

AI文档已按来源正确分类，由LLM完成

按来源划分数据后，LLM 呈现出另一种情况：竞争对手的 AI 检测模型在性能较弱的开源模型上表现更佳，但在 ChatGPT（gpt-3.5-turbo）上表现较差，而在 OpenAI 性能最强的 LLM——GPT-4 上则显得力不从心。我们评估了 GPT 3.5 Turbo 和 GPT-4 模型的多个版本，因为这些是实际应用中最常用的版本。

我们发现，我们的模型是唯一能够可靠地识别 GPT-4 文本的模型，并且在测试的其他所有模型中表现也优于竞争对手。

一个有趣的发现是，我们的模型在开源模型上的表现远优于闭源的GPT和Gemini模型。 我们推测，这源于对困惑度和突发性特征的过度依赖——尽管这些特征很有价值，但困惑度和突发性只能在开源模型上精确计算：在闭源模型上，只能进行近似估算。这凸显了我们基于深度学习的方法的价值——它不依赖困惑度这类脆弱的特征，能够学习更微妙的潜在模式。

鲁棒性

我们经常被问到一个问题：当新的语言模型发布时会发生什么？是否需要针对每个新模型进行训练才能检测其输出结果？简而言之，不需要。OpenAI 在过去几周内发布了两个新版的大语言模型（LLM）。我们完全没有对这些新模型进行训练，但经过评估发现，我们的模型表现依然相当出色！

• GPT-3.5-Turbo-0125：准确率99.66%
• GPT-4-0125-预览版：准确率99.18%

这些新版本与 OpenAI 此前发布的版本类似。因此，我们接下来的问题是：在完全不同的模型家族上，我们的表现如何？为了解答这个问题，我们使用了一系列我们的分类器从未接触过的开源模型对该模型进行了评估。

这是开源大型语言模型（LLM）的表现，Pangram Labs在训练过程中未曾见过。

真是太棒了！这在很大程度上是因为许多开源模型要么基于Llama系列，要么使用了类似的开源训练集，但这让我们对模型的泛化能力充满信心，而无需对每一个开源模型都进行单独训练。

话虽如此，我们的数据管道设计得十分高效，能够在大型语言模型（LLM）API发布后的数小时内生成新的训练集——唯一的瓶颈仅在于API的调用速率限制。我们深知大型语言模型正在不断进步，随着我们逐步迈向通用人工智能（AGI），及时跟进最新进展并确保能够跟上甚至超越最先进的人工智能代理，将变得愈发重要。

英语作为第二语言

先前研究发现，市面上的大型语言模型（LLM）检测工具普遍对非母语使用者（ESL，即英语作为第二语言的学习者）存在偏见。为了验证这一发现，研究人员选取了91篇来自托福考试（TOEFL，即英语作为外语考试）的作文作为基准数据集，对多种检测工具进行了测试。

我们从训练集里抽取了91篇托福作文，并用基准数据集对Pangram Labs进行了评估。得益于我们在降低ESL假阳性率方面所做的工作，我们在托福基准数据集上报告的假阳性率为0%——这意味着该基准数据集中的所有人工撰写的作文均未被误判为AI生成。

托福基准分对比

Pangram Labs 的人工智能检测方法

检测人工智能生成的内容并非易事。我们利用基于Transformer架构的深度学习模型进行训练，并采用两种关键方法，将模型的准确率提升到一个新的高度。

合成镜

训练集中的每份文档都标有“人类”或“AI”的标签。在机器学习中，我们将这些文档称为“样本”。

我们拥有来自公开数据集的数百万个人类示例用于训练，但缺乏相应的AI数据集。 我们通过为每个人类示例配对一个“合成镜像”来解决这一问题——我们用这个术语来描述基于人类文档生成的AI文档。我们会向大型语言模型（LLM）发出提示，要求其生成同一主题、相同长度的文档。对于其中一部分示例，我们会让LLM以人类文档的第一句话为开头，从而使AI生成的文档更加多样化。

硬负采矿

在训练模型的初期，我们就遇到了瓶颈。我们尝试增加更多训练样本，但最终发现模型已经“饱和”——增加训练样本无法进一步提升模型性能。

标度律实验

该初始模型的性能不尽如人意——在许多领域中，其误报率仍超过1%。我们发现，我们需要的不仅仅是更多的样本，而是更具挑战性的样本。

我们通过以下方式筛选出更具挑战性的示例：首先基于初始模型，对公开数据集中的数千万个人类示例进行扫描，寻找模型误分类的难度最高的文档。随后，我们为这些文档生成合成镜像，并将它们加入训练集。最后，我们对模型进行重新训练，并重复这一过程。

Pangram Labs 人工智能生成文本分类器的训练流程

借助这种训练方法，我们成功将误报率降低了100倍，并发布了一个令我们引以为豪的模型。

按领域划分的假阳性率表

我们将这种方法称为“基于合成镜像的硬负样本挖掘”，并在我们的技术报告中对此过程进行了更详细的阐述。

Pangram Labs 的下一步计划是什么？

显然，我们的征程远未结束。我们脑海中涌现出许多新想法，旨在将系统性能提升到新的高度。我们将持续优化评估数据集，以便更精确地追踪误报率，精确到百分之一的百分之一。我们计划将模型扩展至非英语语言领域，并致力于深入分析并解决系统中的失败案例。敬请期待我们的后续进展！

有任何问题或意见吗？请通过info@pangram.com 联系我们！