如果你仔细观察,通常能在文本中发现一些迹象,表明它是人工智能撰写的。某些句式结构、词汇选择或排版方式在人工智能生成的文本中出现的频率,远高于人类撰写的文本。
你可能已经知道一些看似能表明某段文字是由人工智能生成的短语。此类例子不胜枚举:“复杂的织锦”、“……的明证”,甚至还有作家兼投资者保罗·格雷厄姆曾广为提及的“delve”一词。
保罗·格雷厄姆的推文
如果您是 Pangram 仪表盘的常用户,可能已经注意到,我们开始标出那些被过度使用的 AI 短语,比如下文 AI 文章中的“复杂的织锦”。

这是 Pangram 的全新 AI 短语工具!其工作原理如下:
当您扫描一份文档,且 Pangram 检测到该文档由 AI 生成时,我们会进行二次扫描,以查找常见的 AI 生成的短语。
为了让我们的模型达到极高的准确度,我们使用了包含数千万份由人类和AI生成的文档的内部数据集。此外,我们的团队还可以对这两组数据集进行扫描,找出人类和AI写作中常见的词语序列。然后,我们可以对比统计数据,看看AI是否确实过度使用了某些短语。我们使用了一种名为N-Gram分析的技术(它与PaNGram发音相似可能并非巧合😊),结果令人震惊。 我们清楚地看到,有无数短语的出现频率在AI文本中远高于人类文本。数量之多,甚至促使我们决定开发一款工具,将这些短语直接展示在Pangram仪表盘上。
在 Pangram,我们致力于保护人类的声音。我们拥有一个核心检测模型,能够处理文本中的数十万个细节,从而判断该文本是否由人工智能生成。
不过,我们也关注可解释性。如果知道某个特定短语在AI生成的文本中出现频率极高,就能帮助您更好地理解(并向他人解释!)我们为何会将某段文本判定为AI生成或非AI生成。如果您发现某篇文本中存在若干短语,其在AI文本中的出现频率比人类文本高出数百甚至数千倍,那么您便拥有了更多可量化的证据来支持我们的判断。
我们希望让各位用户不仅了解一段文本是否由人工智能生成,还能了解我们是如何判断的。AI短语是这一使命的关键组成部分,也是我们迈向可解释性目标的整体进程中不可或缺的一环。
在未来的博客文章中,我们将探讨一些最被滥用的AI术语,敬请期待!如需了解更多关于Pangram或我们可解释性功能的信息,欢迎随时通过info@pangram.com与我们联系。

Elyas Masrour 是 Pangram 的创始工程师。自马里兰大学毕业后,他作为 Pangram 的第二名员工加入公司,此后构建了多项关键基础设施,包括模型服务 API、基于角色的访问控制以及支持性证据处理管道。Elyas 还与研究团队紧密合作,共同开展对抗性鲁棒性、模型可解释性以及异构混合内容检测等项目。 工作之余,埃利亚斯热衷于探索人类创造力和表达形式的方方面面,包括电影制作、阅读以及城市探索。