跳转至主要内容

快来看看 Pangram MCP!点击此处了解更多

案例研究

“Pangram”能探测到“双子座4号”上的氩气吗?

2026年11月2日

以下是简要总结


在2,341个提示词中,Pangram 4.1在Gemini 4 Argon的高难度推理输出上实现了98.72%的准确率,在中等难度推理输出上实现了99.31%的准确率,两种设置下的总准确率为99.02%。

Gemini 4 Argon是谷歌于 2026 年 10 月 13 日发布的最新人工智能模型。谷歌表示,Gemini 4 Argon 专为处理复杂的多步骤任务而设计,而非用于聊天;其表述风格直截了当,且与前代模型相比,使用保留性措辞的频率更低。

在写作风格发生这些变化的情况下,Pangram 还能检测出来吗?我们使用 2,341 个示例提示对 Pangram 4.1 的性能进行了测试,结果发现 Pangram 4.1 将 16 个 Gemini 4 Argon 的输出结果归类为“人类生成”,7 个归类为“混合生成”,2,318 个归类为“完全由 AI 生成”,在 Gemini 4 Argon 上的准确率达到了 99.02%。

型号示例检出率
双子座4号氩(高推理)1,17498.72%
Gemini 4 Argon(中等推理)1,16799.31%

为了生成基准数据集,我们使用了来自 LMSYS-Chat-1M数据集(Zheng 等,2023)的 1,200 个首轮提示。随后,我们将这些提示输入到 Gemini 4 Argon 模型中,并设置推理难度为中、高,最后将输出结果通过Pangram 4.1 进行处理。

按类别查看结果

总体而言,在1,174个高难度推理题的答题中,Gemini 4 Argon的漏检率为1.28%;在1,167个中等难度推理题的答题中,其漏检率为0.69%。总体来看,中等难度和高难度推理题的检测率之间没有显著差异(p=0.21)。

高级推理

当Gemini 4 Argon的推理级别设置为“高”时,Pangram 4.1将11条回复归类为“人类”,4条归类为“混合”,1,159条归类为“纯AI”,召回率达到98.72%。

类别nAI混合人类
参数707000
电子邮件/信件605802
随笔/文章13913801
说明49549311
诗歌及其他创意写作10810503
评论2200
故事909000
编程与数学9900
角色扮演和游戏605901
其他14113533
总计1,1741,159411

中等推理

在“中等推理”任务中,Pangram 4.1 将 5 条回复归类为人类回复,3 条归类为混合回复,1,159 条归类为纯 AI 回复,召回率达到 99.31%。

类别nAI混合人类
参数717100
电子邮件/信件606000
随笔/文章13813701
说明49549203
诗歌及其他创意写作10810800
评论2200
故事848400
编程与数学9900
角色扮演和游戏606000
其他14013631
总计1,1671,15935

“Gemini 4 Argon”的书写方式是怎样的?

谷歌声称,Gemini 4 Argon 模型在表述时更少使用委婉语,表达更为直白。为了对这一说法进行粗略验证,我们选取了源自Hyland(2005)的研究中列出的 101 个委婉词,并将这些词在 Gemini 4 Argon 中的出现频率与 Haiku(每 1,000 词 7.0 次)和 GPT-6.1 Sol(每 1,000 词 7.5 次)中的出现频率进行了比较。

以下是我们使用的修辞词汇列表:

关于,几乎,显然,显然地,似乎,似乎是,似乎,大约,认为,认为过,认为,大约,假设,曾假设,大致,一定数量,一定程度,一定水平,声称,曾声称,声称,可能,不可能,怀疑,可疑,本质上,估计,曾估计,相当,感觉,感觉,曾感觉,经常,从我的角度看,从我们的角度看,从这个角度看,一般, 猜想,表明,曾表明,表明,一般而言,在大多数情况下,在我看来,在我看来,从这一角度看,在我们看来,在很大程度上,可能,主要,可能,也许,或许,大多,经常,总体而言,应该,或许,合乎情理,可能,可能,假设,曾假设,假设,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测,推测, 大致,似乎,应该,有时,在某种程度上,暗示,曾暗示,暗示,假设,曾假设,假设,怀疑,怀疑,倾向于,曾倾向于,倾向于,据我所知,典型的,通常,不确定的,不明确的,不太可能的,通常,会,不会

以每1,000个单词为单位计算,Gemini 4 Argon使用的修饰词比Haiku少51%,比Sol少54%。 有趣的是,尽管模型通常比人类更频繁地使用缓和词,但Pangram 4.1仍将这份词表判定为完全由人类生成。出于好玩,我还让ChatGPT按任意顺序重新排列了这份词表,而该列表同样被判定为完全由人类生成。

在这三个模型中,Gemini 4 Argon 的回答最长,中位数为 447 个单词(中等推理 418 个单词,高阶推理 447 个单词),而 Haiku 为 371 个单词,Sol 为 313 个单词。 在总计 2,400 次请求中,Gemini 还拒绝回答了 31 个提示,此外还有 3 个请求被谷歌的过滤器拦截;相比之下,Haiku 拒绝了 35 次,Sol 拒绝了 23 次。

早期的基准测试

在自然语言提示下,Pangram 对 Gemini 4 Argon 具有很强的鲁棒性,并在高推理难度下以 98.72% 的观测准确率检测到它。在中等推理难度下,其检测 Gemini 4 Argon 的观测准确率为 99.31%,两类场景合计在 2,341 个样本中检测出 2,318 个(99.02%)。 Pangram 能够泛化到新模型上,因为新发布的模型往往会继承其前代模型的大部分风格和语调,因此 Pangram 无需针对每个新版本进行重新训练。

以下是 Gemini 4 Argon 与其他近期前沿模型在我们的基准测试中的对比情况:

型号被检测为人工智能准确性
Claude Haiku 5.5(高级推理)1,179/1,18399.66%
GPT-6.1 Sol(高推理能力)1,091/1,10598.73%
双子座3.8闪光灯998/1,00099.80%
Gemini 3.1 Pro997/1,00099.70%
克劳德·索内特 5.51,019/1,02299.71%
克劳德作品 5.5997/1,00099.70%
GPT-6 Astra982/98699.59%
寓言 5.11,093/1,09799.64%
克劳德·作品第5号1,105/1,10799.82%
GPT-5.63,408/3,42399.56%
克劳德·索内特 第5首1,145/1,14799.83%

如果您想检查特定的文档,可以在这里试用 Pangram。


安娜米卡·阿茨

安娜米卡是 Pangram 的一名技术撰稿人。

查看安娜米卡·阿茨的更多内容
凯瑟琳·泰
凯瑟琳·泰创始人工智能研究科学家

凯瑟琳·泰(Katherine Thai)是人工智能检测初创公司Pangram Labs的创始人工智能研究科学家。她于2025年12月在马萨诸塞大学阿默斯特分校,在莫希特·伊耶(Mohit Iyyer)的指导下获得了计算机科学博士学位,其研究主要致力于评估大型语言模型(LLMs)在文学分析相关任务中的表现。

更多来自凯瑟琳·泰的内容