人工智能检测研究的最新进展

Pangram 正日益成为人工智能生成内容检测领域的权威。我们行业领先的方法和模型屡屡出现在人工智能检测领域的最新研究中，因此今天，我们想重点介绍一些近期研究及其发现！

研究 1：经常使用 ChatGPT 进行写作任务的人，能够准确且可靠地识别出由人工智能生成的文本

研究概述

在这篇论文中，马里兰大学的研究人员探讨了人类对AI生成文本的识别能力。他们聘请了对大型语言模型（LLMs）熟悉程度各异的标注员，阅读300篇非虚构类文章，并尝试将其分类为人类撰写或AI生成。研究发现，经常使用大型语言模型进行写作任务的人，即使未经专门训练，也能出色地识别AI生成的文本。

关于“全字母句”的说明

该研究将人类能力与“自动检测器”（即Pangram）进行了对比。请看结果：

Pangram 的 Humanizer 模型（下文将详细介绍）和 Pangram 模型无疑是表现最佳的检测器，能够检测出 100% 的 AI 生成的文本。我们的这两个模型在面对改写和人性化处理时也保持了很高的鲁棒性，检测率仍能维持在 90%。

更多信息：

点击此处查看已发表的研究

研究 2：跨领域机器生成文本检测挑战赛

研究概述

在这项研究中，宾夕法尼亚大学的研究人员旨在验证检测器是否能够适应一组固定的AI模型、文档类型以及“对抗性攻击”（即试图让AI生成的文本更难被检测出的尝试）。他们发现，“检测器能够同时稳健地检测来自多个领域和模型的文本”。如果有人告诉你AI检测器不起作用，只需把他们引向这项研究！

关于“全字母句”的说明

看，顶部就是“Pangram”！我们获得了第一名，与Leidos研究团队的一款探测器并列第一，那款探测器是专门为这项研究设计并经过专门训练的。

更多信息：

点击此处阅读我们关于此主题的完整博文，并点击此处查看已发表的研究报告！

研究 3：ESPERANTO：评估合成短语以增强文本来源人工智能检测的鲁棒性

研究概述

本研究探讨了一种名为“反向翻译”的攻击手段：攻击者会将文本翻译成多种语言，然后再译回英语，以此来规避人工智能的检测。研究发现，这种方法既能保留文本的语义，又能显著降低人工智能生成的文本被检测出的概率（在大多数检测器上😄）。

关于“全字母句”的说明

如您所见，Pangram 在所有类别中都表现出最佳的鲁棒性。尽管反向翻译有时会使竞争对手的检测率减半甚至降至近四分之一，但 Pangram 依然保持着良好的鲁棒性。

更多信息：

点击此处查看我们的首篇博客文章，点击此处查看已发表的研究报告！

附赠：Pangram 的独家研究

如果您想进一步了解 Pangram 为优化模型而进行的内部研究，可点击此处阅读相关研究内容：

DAMAGE：检测经对抗性修改的AI生成文本

关于 Pangram 人工智能生成文本分类器的技术报告

致力于研究

在 Pangram，我们致力于推动该领域的研究，因此我们向有意使用 Pangram 研究 AI 检测的学者提供免费且无限制的访问权限。想了解更多信息吗？请通过info@pangram.com与我们联系。