高精度AI生成テキスト検出に関する技術報告書

Pangram LabsのAI生成テキスト分類器のトレーニングプロセス

はじめに

パングラム・ラボでは、不正確で欺瞞的、あるいは質の低いコンテンツがインターネット上に氾濫するのを防ぐため、最高のAIテキスト検出モデルを開発しています。私たちは、LLM（大規模言語モデル）が普及した世界において、人間が真実を見極めるための最良のツールを手にする必要があると確信しており、そのニーズに応える適切な技術を提供していきたいと考えています。

Pangram Labsは、スパムや不正コンテンツとして悪用される可能性のあるAI生成テキストを検出するための、本格的な分類モデルを開発しました。当社のモデルは、既存の他社モデルと比べてどれほど優れているのでしょうか？本ブログ記事では、当社のモデル性能に関する包括的な分析結果と、初めて公開する技術ホワイトペーパーをご紹介します。

このブログ記事では、以下のトピックについて取り上げます：

• なぜAI生成テキストの検出は重要な課題なのでしょうか？
• どのAI生成コンテンツ検出ツールが最も優れているでしょうか？
• なぜ高い精度が重要なのでしょうか？
• Pangram Labsではどのようなコンテンツを検出できますか？
• パングラム・ラボはこの問題にどのように取り組んだのでしょうか？

方法論など、より技術的な詳細については、当社の「パングラムAI生成テキスト分類器に関する技術レポート」をご覧ください。

要約

約2000件の文書を用いて競合比較ベンチマークを実施し、総合精度、誤検知（偽陽性）件数、および検知漏れ（偽陰性）件数といった主要な精度指標を測定しました。

Our text classifier outperforms academic methods and shows significantly lower error rates in a comprehensive benchmark against other available AI text detection methods. Our model demonstrates 99.85% accuracy with 0.19% false positive rate across thousands of examples across ten different categories of writing and eight commonly used large language models. Other methods fail on more capable LLMs such as GPT-4 (<=75% accuracy) while Pangram Labs sustains 99-100% accuracy across all language models tested.

全体的な精度の比較

AI生成テキスト入門

2023年、AI技術が転換点を迎える中、ChatGPTなどの大規模言語モデル（LLM）の人気が爆発的に高まりました。AIアシスタントを支えるLLMは、質問に答えたり、アイデアを出し合ったり、コンテンツを作成したりすることができ、そのすべてにおいて人間らしい自然な話し口で応答します。これにより、情報はかつてないほど入手しやすくなり、アシスタントが雑務を代行することで時間を節約できるようになるなど、いくつかの良い成果がもたらされました。 しかし、誰でも実質的に労力をかけずに、人間らしい文章を作成できるようになったことには、それなりのデメリットも伴います。スパマーは、フィルタリングが困難なメールを作成できるようになります。オンラインマーケットプレイスの販売者は、数分で何千件もの本物そっくりのレビューを生成できます。悪意のある者はソーシャルメディアに侵入し、LLMを活用した何千ものボットを使って世論を操作することも可能になります。

残念ながら、こうした社会的リスクはLLMレベルでは軽減できません。言語モデルには、リクエストが正当なものなのか、それともスパマーによって生成された何千ものリクエストの一つなのかを判断する能力がないからです。そのため、人間のための空間を人間らしいものとして維持するためには、アプリケーション層でのコンテンツフィルタリングが必要となります。

パングラム・ラボが正確さにこだわる理由

この分野の取り組みについては、多くの懐疑的な意見が寄せられています。例えば、「この問題は解決不可能だ」「AI検出ツールは『機能しない』ことが証明されている」「プロンプトを工夫すれば回避できる」といったものです。あるいは、「たとえ今は可能だとしても、来年にはさらに難しくなり、AGIが登場する頃には不可能になっているだろう」といった意見さえあります。

私たちの考えは少し異なります。私たちは、この問題を解決することは可能であるだけでなく、必要不可欠であると確信しています。どれほど困難であろうと、ユーザーが安心して利用できるものを構築するためにどれだけの時間を費やすことになろうとも、問題ではありません。私たちの取り組みがなければ、インターネットがAIスパマーに溢れかえるのは時間の問題です。人間の声は雑音に埋もれてしまうでしょう。

私たちにとって、問題が解決されたことを確認するには、評価セットの難易度を引き上げ続ける必要があります。初期の評価では、精度を100%まで簡単に引き上げることができましたが、それが実世界の精度を反映していないことはすぐに明らかになりました。より難易度の高い評価セットを構築することで、改善度を客観的に測定できるようになります。 現在のベンチマークは、実世界のスパマーが送り出すものよりも若干難易度が高く、すでに限界に近い状態にあると考えています。新たな数値を報告する際、他の手法の精度がさらに低下したように見えるかもしれませんが、実際には、より難易度の高い評価セットを用いて、最も高性能なAIが本物そっくりのテキストを生成するために限界まで追い込まれている状況であり、私たちの目標は、それでも99%の精度でそれを検出できることです。

この問題は完全には解決されないでしょうが、LLMの能力がますます高まる中で、取り残されないよう着実に前進していかなければなりません。これこそが私たちが引き受けた使命であり、最後まで追求し続けるものです。

AI検出ツールの比較

当社の技術レポートでは、Pangram Labsを、2つの主要なAI検出ツールおよび2023年のAI検出に関する最先端の学術的手法と比較しました。

以下を比較します：

• パングラム・ラボ
• GPTZero
• Originality.ai
• DetectGPT

このベンチマークには1,976件の文書が含まれており、その半数は人間によって書かれたもので、残りの半数はChatGPTやGPT-4を含む、最も人気のある8つのLLMによって生成されたものです。

全体的な精度の比較

これらの数字が何を意味するのか、簡単に説明します：

• 精度：このツールは、全文書のうち何パーセントを正しく分類できたか？
• 誤検知率：人間が作成した文書全体のうち、AIによるものと誤って分類されたものはいくつあったか。
• 偽陰性率：AIが生成した文書全体の中で、誤って「人間が作成した」と分類されたものはいくつあるか？

誤検知率を具体的に示すと――9%の場合、人間が作成した文書11件に1件がAIによるものと判定されます。誤検知率が2%の場合、人間が作成した文書50件に1件がAIによるものと判定されます。そして0.67%の場合、人間が作成した文書150件に1件がAIによるものと判定されます。

同様に、偽陰性率が10％の場合、AI生成文書10件に1件が見逃されることになりますが、偽陰性率が1.4％の場合、AI生成文書70件に1件が見逃されることになります。

これらの結果がもたらす影響について考えてみよう。誤検知率が9%の検知モデルは信頼できない。そうでなければ、誤った告発が横行することになるからだ。また、検知漏れ率が10%の検知モデルでは、AIスパムが大量にすり抜けてしまうため、いかなる攻撃が行われても、ユーザーは依然としてスパムに埋もれてしまうことになる。

結果をさらに詳しく見ていく

当社のベンチマークは、「テキストドメイン」と「基盤LLM」という2つの軸に分けて分析されています。「テキストドメイン」（または単に「ドメイン」）とは、文章の特定のカテゴリーを指す概念です。例えば、中学生の作文は学術論文とは読み味が大きく異なり、学術論文もまたメールとは全く異なる読み味を持っています。結果を異なるドメインごとに分類することで、どの分野で成果を上げているか、また改善に向けてどこに注力すべきかを、より包括的に把握することができます。

テキストの分野別精度

結果によると、Pangram Labsは評価対象となった10の領域すべてにおいて、GPTZeroおよびOriginalityを上回っている。

特に「メール」というカテゴリでの結果が際立っているのは、Pangram Labsがトレーニングデータにメールを含めていないためです。メールに関する当社のパフォーマンスは、LLMが生成し得るほとんどの文章カテゴリに汎化できる堅牢なモデルを学習させたことによるものです。

AI文書は、LLMの出典に基づいて正しく分類された

LLMの起源別に分析すると、別の事実が浮かび上がります。つまり、競合するAI検出モデルは、性能の低いオープンソースモデルに対しては優れた性能を発揮するものの、ChatGPT（gpt-3.5-turbo）では性能が低下し、OpenAIの最高性能LLMであるGPT-4では特に苦戦を強いられるということです。実環境ではGPT-3.5 TurboとGPT-4の各バージョンが最も広く使用されているため、我々はこれらを評価対象としました。

我々のモデルは、GPT-4のテキストを確実に検出できる唯一のモデルであることが判明しており、テストした他のすべてのモデルに対しても優れた性能を発揮しています。

興味深いことに、競合モデルはクローズドソースのGPTやGeminiモデルよりも、オープンソースのモデルにおいてはるかに優れた性能を発揮しています。 この理由として、パープレキシティやバースト性といった特徴量への過度な依存が挙げられると我々は推測している。これらの特徴量は確かに有用だが、パープレキシティやバースト性を正確に計算できるのはオープンソースモデルに限られる。クローズドソースモデルでは、あくまで近似的な推定しか行えないのだ。これは、我々のディープラーニングに基づくアプローチの価値を如実に示している。すなわち、このアプローチはパープレキシティのような不安定な特徴量に依存せず、より微妙な潜在的なパターンを学習することができるのである。

頑健性

よく寄せられる質問の一つに、「新しい言語モデルがリリースされたらどうなるのか？」というものがあります。その出力結果を検出するために、新しいモデルごとにトレーニングを行う必要があるのでしょうか？一言で言えば、その必要はありません。OpenAIはここ数週間で、LLMの新しいバージョンを2つリリースしました。これらの新しいLLMで一切トレーニングを行わずに当社のモデルを評価したところ、依然として非常に良好な結果が得られました！

• GPT-3.5-Turbo-0125：99.66%の精度
• GPT-4-0125-プレビュー：99.18%の精度

これらの新バージョンは、OpenAIが以前にリリースしたバージョンと類似しています。そこで次に問うべきは、「まったく異なるモデルファミリーに対してはどのような結果が出るのか」ということです。この疑問に答えるため、我々は、分類器がこれまで一度も学習したことのない多数のオープンソースモデルを用いて、自社のモデルの性能評価を行いました。

Pangram Labsがトレーニング中に確認していなかった、オープンソースのLLMによる出力。

かなり素晴らしいですね！これは、多くのオープンソースモデルがLlamaファミリーをベースにしているか、あるいは類似のオープンソース学習データセットを使用しているという事実が大きく関係していますが、おかげで、すべてのオープンソースモデルで個別に学習させる必要がなくとも、汎化能力に自信を持てるようになります。

とはいえ、当社のデータパイプラインは、LLM APIがリリースされてから数時間以内に新しいトレーニングセットを生成できるよう構築されており、ボトルネックとなるのはAPIのレート制限のみです。LLMの性能は向上し続けていることを我々は十分に認識しており、AGIの実現に近づくにつれ、常に最新の状態を維持し、最も高度なAIエージェントさえも確実に捕捉できるようになることが、ますます重要になっていくでしょう。

第二言語としての英語

これまでの研究では、市販のLLM検出器が、非ネイティブスピーカー（ESL、すなわち第二言語としての英語話者）に対して一貫して偏見を持っていることが明らかになっている。これを検証するため、研究者らはTOEFL（Test of English as a Foreign Language）の91編のエッセイをベンチマークとして用い、複数の検出器をテストした。

トレーニングセットからTOEFLのエッセイ91編を抽出し、ベンチマークを用いてPangram Labsの評価を行いました。ESLにおける誤検知率を最小限に抑えるための取り組みを行った結果、TOEFLベンチマークにおける誤検知率は0%でした。つまり、このベンチマークに含まれる人間によるエッセイは、AIによるものと誤分類されたものは一つもありませんでした。

TOEFLの基準値に関する比較

Pangram LabsのAI検出へのアプローチ

AI生成コンテンツの検出は容易なことではありません。私たちは、トランスフォーマーベースのアーキテクチャを用いた深層学習モデルを学習させ、2つの主要な手法を採用することで、モデルの精度をさらに向上させています。

合成ミラー

トレーニングセットに含まれるすべての文書には、「人間」または「AI」のラベルが付いています。機械学習では、これらの文書を「例」と呼びます。

公開データセットからは数百万件もの人間の作成した例を用いて学習させることができますが、それに相当するAIデータセットは存在しません。 この問題を解決するために、私たちはすべての人間の例に「合成ミラー」を組み合わせます。「合成ミラー」とは、人間の文書を基にAIが生成した文書を指す、私たちが用いる用語です。LLMに対し、同じトピックで同じ長さの文書を生成するよう指示します。一部の例については、AI生成文書のバリエーションを増やすため、LLMに人間の文書の最初の文から生成を開始させます。

ハードネガティブマイニング

初期段階では、モデルの学習において頭打ちの状態に陥りました。例を追加してみましたが、最終的にはモデルが「飽和」していることが判明しました。つまり、学習例を増やしても、それ以上モデルの性能は向上しなくなったのです。

スケーリング則の実験

この初期モデルの性能は満足のいくものではなかった。多くのドメインにおいて、依然として1%を超える誤検知率が残っていた。そこでわかったのは、単に例を増やすだけでなく、より難易度の高い例が必要だということだった。

初期モデルを用いて公開データセット内の数千万件に及ぶ実データ例を精査し、モデルが誤分類した最も難易度の高い文書を特定することで、より難易度の高い例を選定しました。次に、これらの文書に対応する合成データを作成し、学習セットに追加しました。最後に、モデルを再学習させ、このプロセスを繰り返しました。

Pangram LabsのAI生成テキスト分類器のトレーニングプロセス

このトレーニング手法により、誤検知率を100分の1に低減し、自信を持ってリリースできるモデルを完成させることができました。

ドメイン別の偽陽性率一覧

この手法を「合成ミラーを用いたハードネガティブマイニング」と呼び、そのプロセスについては技術報告書で詳しく解説しています。

パングラム・ラボの今後の展開は？

もちろん、これで私たちの取り組みが終わるわけではありません。パフォーマンスをさらに向上させるための新しいアイデアが山ほどあります。誤検知率を0.01％単位でより正確に追跡できるよう、評価セットの改善を続けていきます。また、英語以外の言語にも対応できるようモデルを拡張し、失敗事例の分析と改善に取り組んでいく予定です。今後の展開にご期待ください！

ご質問やご意見がございましたら、info@pangram.com までご連絡ください！