パングラムのAIフレーズのご紹介

注意深く読み解けば、その文章がAIによって書かれたことを示唆する兆候をしばしば見つけることができます。特定の文の構造や言葉の選び方、あるいは書式設定などは、人間が書いた文章に比べてAIが生成した文章でははるかに頻繁に見られます。

テキストがAIによって生成されたものであることを示唆するようなフレーズを、すでにいくつかご存知かもしれません。その例は数多くあります。「複雑な織物（complex tapestry）」、「～の証（a testament to）」といった表現や、作家であり投資家でもあるポール・グレアムが広く指摘した「delve」という言葉などです。

ポール・グレアムのツイート

さて、Pangramダッシュボードを日常的にご利用の方なら、以下のAI作成のエッセイにある「complex tapestry」のような、AIが使いすぎているフレーズを強調表示し始めたことにお気づきかもしれません。

これがPangramの新しいAIフレーズツールです！その仕組みは次のとおりです：

文書をスキャンした際、PangramがAIによって生成されたものと検知した場合、AIによく使われるフレーズがないか、再度スキャンを行います。

モデルの精度を高くするために、私たちは数千万件に及ぶ人間とAIが生成した文書からなる社内データセットを活用しています。これとは別に、私たちのチームはこれらのデータセットを精査し、人間とAIの文章に共通する単語の並びを探し出します。そして、統計データを比較することで、AIが実際に特定のフレーズを過剰に使用しているかどうかを確認します。私たちは「N-Gram分析」と呼ばれる手法を採用しており（PaNGramと発音が似ているのは偶然ではないかもしれません 😊）、その結果は驚くべきものでした。 AIが人間よりもはるかに頻繁に使用していると思われるフレーズが無数にあることが、はっきりと確認できました。その数は実に膨大であるため、私たちはこれらのフレーズをPangramのダッシュボード上に直接表示するツールを開発することにしました。

なぜこれが重要なのでしょうか？

パングラムでは、人間の声を守ることに関心を寄せています。当社には、テキストに関する数十万もの詳細情報を処理し、それがAIによって生成されたものかどうかを判断できる中核的な検出モデルがあります。

しかし、私たちは「説明可能性」にも注目しています。特定のフレーズがAI生成テキストにおいて著しく過剰に現れていることを把握することで、なぜそのテキストがAI生成であると判定されたのか（あるいはそうでないと判定されたのか）を、より深く理解し（そして他者に説明することも可能になります）。ある文章の中に、人間が書いたテキストに比べてAI生成テキストで数百倍、あるいは数千倍も頻繁に現れるフレーズがいくつかあることが分かれば、私たちの判断を裏付ける、より定量的な根拠が得られることになります。

ユーザーの皆様には、テキストがAIによって生成されたかどうかだけでなく、その見分け方についても常に最新の情報をお伝えしていきたいと考えています。AI特有の表現は、この取り組みにおいて重要な要素であり、AIの解釈可能性を高めるための私たちの取り組み全体においても重要な役割を果たしています。

今後のブログ記事では、AI関連で最も使い古されたフレーズをいくつか取り上げていく予定ですので、お楽しみに！Pangramや当社の解釈可能性機能について詳しく知りたい方は、info@pangram.comまでお気軽にお問い合わせください。