带你盘点AI领域最滥用的术语

正如我们上周讨论的那样，人工智能往往会过度使用某些词汇和短语。你可能立刻就能想到其中几个，比如从“a testament to”到“delve”。如果看到足够多的这类短语，通常可以作为你正在处理的文本由人工智能生成的有力证据，但这类短语实在太多，任何一个人都难以全部掌握。

为了解决这个问题，我们最近推出了一款名为“AI短语”的工具，专门用于标注此类短语。在开发该工具的过程中，我们构建了一个包含最常用AI短语的大型数据集。本文将带您了解数据集中出现的一些最常见的AI短语，并探讨如何利用它们来增强您对AI生成文本的直觉判断。

第一部分：AI 艺术作品

我们先从最显而易见的情况说起：有时人工智能会直接告诉你它就是人工智能！这种情况通常发生在它拒绝执行某项请求时。当用户向人工智能提出被禁止执行的请求时，它必须告知用户无法满足该请求，而在此过程中，模型往往会承认自己是一台人工智能。 许多AI的拒绝回应都以“作为AI语言模型……”这一短语开头。由此可见，这类短语在AI生成的文本中相当常见，而在人类撰写的文本中却极为罕见。数据也印证了这一点！我们最常见的AI短语中，许多都具有自我指涉的特征。

第2部分：用得过多的短语

“AI 特征”是我们最常滥用的 AI 术语之一，但归根结底，这些概念相当显而易见，因此也相当乏味。现在我们来谈谈有趣的部分：那些在 AI 文本中确实出现频率过高，却与“作为 AI”毫无关联的短语。以下是其中几个例子：

第三部分：为什么人工智能会过度使用固定短语？

不难理解，为什么在AI生成的文本中，“作为AI……”这种表述会更为常见。但究竟是什么原因导致第二部分中那些看似毫无关联的短语更为常见呢？首先，存在一种被称为“模式坍缩”的现象，即AI输出因过度依赖高概率的词序而变得过于笼统或重复。模式坍缩……

此外，在训练结束后，通常会进行 RLHF（基于人类反馈的强化学习）。在此过程中，人工标注员会根据多项属性对 AI 生成的文本进行评分，以此鼓励某些模式并抑制其他模式。在这个过程中，如果某些答案或短语很可能获得这些人工标注员的奖励，它们出现的频率就会越来越高。

因此，其中一些被过度使用的短语可以被视为特定模型、架构和训练过程的特征，而不仅仅是人工智能写作本身的标志。马里兰大学Jenna Russell、Marzena Karpinska和Mohit Iyyer的一篇论文表明，不同的模型实际上更倾向于使用不同的短语：

过度使用

这表明，使用不同的数据集和优化策略进行训练的不同模型，在短语重复方面可能会形成各自独特的倾向。

附赠：我们团队最喜欢的N-Gram

在工作中，我们的团队花费了无数时间阅读和分析人工智能生成的文本。自然而然地，我们对其中的一些短语产生了共鸣：

以下是我们团队最喜欢的AI短语：

• 马克斯（首席执行官）：“在这个日新月异的” (11,000x)

• 布拉德利（首席技术官）：“值得注意的是”（3,000次）

• 卢：（创始工程师）：“错综复杂的本质”（6,000次）

• 伊利亚斯（创始工程师）：“生机勃勃的织锦”（17,000次）