第三者機関による調査で、Pangramが最も堅牢なAI検出ツールであることが判明した

第三者機関による調査で、Pangramが最も堅牢なAI検出ツールであることが判明した

ヒューストン大学、カリフォルニア大学バークレー校、カリフォルニア大学アーバイン校、およびスタートアップ企業Esperanto AIの研究者らは、商用およびオープンソースの多種多様な手法の中で、Pangramが最も堅牢なAIテキスト検出器であることを明らかにした。論文「Esperanto: Evaluating Synthesized Phrases to Enhance Robustness in AI Detection for Text Origination」において、研究者らは言語翻訳がAI検出器の性能に与える影響について調査を行った。

翻訳ツールを利用したAI検出器の回避

AI検出を回避する手法として、AIが生成したテキストをGoogle翻訳で外国語に翻訳し、そのテキストを再び英語に翻訳し直すことで、攻撃者（あるいは単に時間のない賢い学生）がAI検出プログラムをすり抜けることができることはよく知られています。Pangramでは、この攻撃を社内で「ダブル翻訳」と呼んでいますが、研究者たちはこれを「バック翻訳」と呼んでいます。 以下にダブル翻訳の例を示します。まずChatGPTにテキストを作成してもらいます。そのテキストを最初に日本語に翻訳し、その後再び英語に翻訳します。翻訳ソフトは完璧ではなく、同じことを表現する方法は複数あるため、一部のフレーズが変化していることに気づくでしょう。これは、Quillbotのような言い換えツールが行う処理と同様の効果をもたらします。

競合他社の製品の多くは、この攻撃に対して脆弱です。上記は、市場で広く利用されている競合他社のAI検出ツールの一つです。このモデルはChatGPTからのテキストであればAIであることを正確に検出できますが、二重翻訳を経ると、AIであると判定する確率はわずか15%に低下します。

しかし、Pangramは、ChatGPTによる元のテキストと、二重翻訳されたテキストの両方を、99.99%の確率でAI生成であると予測できる。これは単にAI生成のテキストであると予測できるだけでなく、元のソースがGPT-4であったことも確信を持って予測できる。研究者たちは、この現象を一般的な観点から、大規模に研究することにした。

72万件の文書における逆翻訳の影響に関する研究

たった一つの例だけでは、当社の検出器が堅牢であり、他の検出器がそうではないことを証明するには不十分です。この研究では、研究者らは、人間によって書かれたことが確認された数千件のニュース記事、科学論文の要約、Redditの投稿、および製品レビューを収集しました。その後、GPT-3.5-Turbo、LLaMA 3、Mistral、Phi3、およびYiを使用して、複数のAI生成例を作成しました。

全体として、翻訳攻撃を仕掛ける前から、多くのオープンソースの手法や商用検出ツールは、実際にはまったく効果がありません。

まず、閾値が設定されました。これは、ある文書をAI生成とみなすためのパーセンテージの基準値を選ぶことを意味します。ほとんどのAI検出ツールは、最終出力としてパーセンテージを返します。すべての検出ツールを同等の条件で比較できるようにするため、各モデルの偽陽性率が1%になるように閾値が設定されました。これにより、検出精度を「真陽性の割合」として比較できるようになります。つまり、その閾値において、各検出ツールがどれだけのAI生成例を検出できるか、ということです。

本論文で検討された他の手法の多くは、AI生成コンテンツの検出に完全に失敗している。例えば、ZeroGPTやGPTZeroは、一部のドメインにおいてどの閾値を設定しても誤検知率を1%以下に抑えることさえできず、RADARやLLMDetといったよく引用される学術論文でさえ、その精度は50%未満にとどまっている。

性能評価のために提案されている指標は、「1%のFPRにおけるTPR」を測定するものです。つまり、誤検知率を1%に固定した場合、モデルがAI生成テキストを検出できる頻度はどの程度か、というものです。ZeroGPTは、ほとんどの分野において、どの閾値を設定しても1%の誤検知率さえ達成できていません。また、RADARやLLMDetといったよく引用される学術論文でさえ、この指標では50%を大きく下回る結果となっています。

一方、Pangramは、FPR 1%の条件下で全ドメインにおいて96%を超えるリコール率を達成しており、長さがわずか40～50語のレビューを含む難易度の高いレビューデータセットにおいても85%のリコール率を達成しています（これは、実環境におけるAI検出のために当社が推奨する文字数基準を大幅に下回るものです）。

二重翻訳攻撃を受けた後、多くの検出器は完全に機能しなくなる。例えば、GPTZeroはニュース分野では97%からわずか42%に、レビュー分野では65%から9%へと精度が低下した。研究者らは、「GPTZeroとZeroGPTの結果は、逆翻訳技術に対する堅牢性の欠如を示している……一方、Pangramはある程度の堅牢性を示しており、特に長文においてその傾向が顕著である」と結論付けている。

全結果を以下に示します。パングラムはすべてのカテゴリーにおいて優れた性能を発揮しています。

結論

この研究結果は、Pangramが現在市場に出回っているAI検出ソフトウェアの中で唯一、学術分野や商業分野で十分に信頼性高く使用でき、二重翻訳などの手口によっても回避できないという我々の主張をさらに裏付けるものである。

これは偶然や偶然の一致ではありません。パングラムの堅牢性は、一般化能力を備え、大規模なデータセットと当社の的を絞ったアクティブラーニング手法によって支えられた、強力なモデルの証左です。時折、あるいは多くの場合において機能するAI検出ツールなら誰でも構築できますが、テキストが修正・変更されても完全に機能しなくなることなく、信頼性が高く一貫した精度を実現できるのは、当社のスケーラブルなアプローチだけです。

当社は、AI検知モデルの性能と堅牢性の向上に常に取り組んでいます。敵対的機械学習に関する最新の研究動向を注視し、潜在的な攻撃や回避手法に対して自社モデルを絶えず検証しています。

この件については、近日中に続報をお届けします！