毎日6万本のAI生成ニュース記事が公開されている

概要

ニュース業界は1,500億ドル規模の産業であり、数千人の記者やジャーナリストが記事を執筆し、その記事は数十億回もの閲覧数を記録しています。AIや大規模言語モデルの台頭に伴い、多くの質の低いニュースサイトや一部の悪質な事業者は、AIを活用して安価かつ迅速に、かつ大規模にコンテンツを生成するようになっています。しかし、AIにはジャーナリストの役割を代替することはできないため、こうしたニュースサイトは、学習データに基づく情報の繰り返しや、他メディアの記事の盗用・言い換えといった手法に頼らざるを得ない状況にあります。

また、信憑性に欠けるコンテンツは、オンラインユーザーから好まれず、閲覧数も少ないことが実証されています。最近のブログ記事で引用したNP Digitalによる調査では、オンライン読者が人間が執筆した記事を好んで優先的に読んでいることが明確に示されました。具体的には：

• 人間が執筆したコンテンツのページでは、AIのみで生成されたコンテンツのページに比べて、読者の滞在時間が93%長かった。
• 読者は、AIが生成した記事に比べて、人間が執筆した記事を閲覧する確率が平均で3.6倍高かった。

こうしたAI生成メディアは、主に本物のニュースコンテンツからトラフィックや潜在的な広告収入を奪うことを目的としており、2023年には広告インプレッションの21％、100億ドル以上の収益を獲得した、拡大を続けるコンテンツファーム事業の一環となっている。

こうした虚偽ニュースの増加がもたらす脅威と潜在的な被害を認識し、我々は本問題の実際の規模を数値化したいと考えた。そこで、NewsCatcherと協力し、ある特定の日に世界中で配信されたニュースのサンプルを分類した。

実験のセットアップ

まず、2024年7月1日に世界中で発表されたニュースをすべて集めてまとめました。

NewsCatcherのAPIは、75,000以上の情報源を網羅し、大企業にも利用されている、毎日配信される世界中のニュース記事に関する最も包括的な情報源です。同社の技術により、私たちは世界中で公開された、さまざまな言語で書かれ、幅広いトピックを網羅する記事の全文を検索することが可能になりました。

NewsCatcherを用いて、ある1日に公開されたすべてのニュースを収集しました。このデータセットから、26,675のオンラインメディアから収集した857,434件の記事を分析しました。これらを、その日に公開されたニュースの代表的なサンプルとみなします。

検出手法

記事の収集後、Pangram Text分類器を実行し、どの記事がAIによって生成されたものかを判定しました。Pangram Textは分類精度において業界をリードしており（2位の商用ソリューションよりも30倍以上正確）、誤検知率の低減に強く注力しています。当社の技術レポートでは、ニュース記事における誤検知率がわずか0.001%であることを示しており、これにより、ニュース記事がAIによって生成されたものであると予測する際、その正確性に確信を持てます。 当社のソリューションは通常、文書やテキストを入力として受け取り、それがLLMによって生成された可能性の予測結果を返します。ウェブページの場合、記事本文のみを抽出するためにコンテンツの後処理やクリーニングが必要となりますが、NewsCatcherソリューションを使用することで、クリーニング済みのテキストを直接取得し、テキスト分類器による推論を実行することができました。

予測値の対数スケールでの分布。対数スケールを用いることで、0や1に近い予測値が、分布の中央付近の予測値に比べて100～1000倍も頻繁に現れることを示しています。

次に、各パブリッシャーを掲載記事総数の合計として分類し、AIコンテンツの総量に基づく内訳ごとにグループ分けしました。グループ分けの枠組みは以下の通りです：

• ある出版社の記事のうち、AIによるものと表示されているものが10%未満の場合、その出版社は人間による出版社とみなされる
• ある出版社の記事のうち、10％から50％がAIによるものと表示されている場合、その出版社は小規模なAI出版社と見なされる
• ある出版社の記事のうち、50％から80％がAIによるものと表示されている場合、その出版社は主要なAI出版社と見なされる
• ある出版社の記事の80%以上がAIによるものと表示されている場合、その出版社は完全にAIによって生成されたコンテンツを提供する出版社と見なされる

集計統計

調査対象となった全記事のうち、以下のことが判明した：

59,653件の記事がAIに分類され、これは全記事の6.96%に相当する。

オンライン出版社の内訳

AIコンテンツの公開量別に分類された出版社 次に、記事の執筆言語、掲載国、記事のテーマ、および政治的な重要性を含む主要な特徴について、AIによる分類結果を分析しました。

AI関連記事の掲載数が最も多い国（100件以上）

国別AI関連記事の割合（各国のニュース記事総数に占める割合） 概して、ガーナはAI生成コンテンツの分野においてかなり際立った存在であることがわかります。全体的な頻度は低いものの、インドもAI生成コンテンツの主要な発信国の一つであり、これは 最近のインド総選挙におけるディープフェイクの影響.

トピック別AIの頻度

トピック別AI記事の割合（各トピックに関するニュース記事の総数に占める割合）

AI関連の記事において、「美容」（スポンサー記事）、「テクノロジー」および「ビジネス」（仮想通貨詐欺）が特に大きなテーマとなっていることがわかります。やや意外なことに、政治に関するAI記事の割合は平均より低い傾向にあります。これは、広告主がブランドセーフティのリスクを懸念して政治ニュースサイトを避ける傾向があり、その結果、出版社が広告向けの政治コンテンツを制作するインセンティブが低下しているためだと考えられます。

AIによる「ニュース」とはどのようなものなのでしょうか？

AI関連のニュース記事には、広告目的のサイト（MFA）、スポンサー記事、詐欺、および偽情報といったいくつかのカテゴリーがある。

広告用

正当なコンテンツを提供するのではなく、広告を表示することだけを目的としたサイトは、「MFA」（広告専用サイト）と呼ばれます。以下にMFAの例を挙げます：

広告専用のサイトで、広告だらけ

ご覧の通り、ウェブサイトの「スクロールせずに見える範囲（アバブ・ザ・フォールド）」には、タイトル以外の実際のコンテンツはなく、ユーザーの注意を引こうと8つのディスプレイ広告がひしめき合っています。その下にあるAI生成コンテンツは、本来読まれることを意図したものではありません。ユーザーがすぐに離脱してしまう前に、サイトへの訪問者を引きつけ、広告収入を稼ぐための単なる仕掛けに過ぎないのです。 広告主は、こうしたサイトで広告を出していることさえ気づいていないことがよくあります。デジタル広告のプログラム的な性質上、この広告枠への入札は、自動入札アルゴリズムを用いてミリ秒単位で売買されているからです。 JounceMediaのような企業は、広告主がこのようなサイトに予算を無駄にしないよう支援しており、「サプライチェーン・オプティマイザー」と呼ばれる企業グループの一員です。

Jounceは、MFAの3つの主要な特徴を次のように定義しています：

1. 有料トラフィック：自然流入がほとんどないか全くないサイトであり、他サイトからのクリックベイト広告による訪問に依存している。
2. 過度な収益化：広告の表示頻度を高め、広告枠を急速に自動更新することで、こうしたパブリッシャーは入札市場における裁定取引の機会を捉えているが、その代償としてユーザー体験を著しく損なっている。
3. 表面的なKPI：こうしたサイトは、ビューアビリティや動画再生完了率といった見せかけの指標では高い数値を記録していますが、Jounceの調査によると、MFAに掲載される広告は、実際には購入者の購買決定に影響を与えていないことが明らかになっています。

要約すると、MFAは、安価に広告枠を提供するために、正当なコンテンツを持つサイトから広告トラフィックを横取りしています。これらは、プログラマティック広告キャンペーンに対して見せかけの指標を提示する一方で、広告主にとって有益なコンテンツや実際のROIを一切提供していません。MFAはインターネット上に蔓延し、一般のインターネットユーザーにとって不快な体験を生み出しています。

MFAを定義する具体的な指標は存在しませんが、オンライン上のAI生成コンテンツの約50％をMFAが占めていると推定されます。

有料／スポンサー提供コンテンツ

インターネット上のニュースの中には、インフルエンサーや信頼できるレビューサイトが執筆した本物のコンテンツを装いながら、実際には商品の宣伝手段として購入されたものもあります。私たちは、美容分野がAI生成コンテンツの出現頻度が最も高いトピックの一つであることに気づきました。データを詳しく分析したところ、美容分野の「ニュース」記事の多くは、この記事のように単なるスポンサー記事であることが判明しました：

この質の低いスポンサー記事はAIが作成しました

多くのコピーライターは、こうした質の低いスポンサー記事を書くために単にAIに頼っている。なぜなら、彼らの目的は本物のレビューを作成することではなく、単に広告枠を売り込むことにあるからだ。

詐欺

仮想通貨詐欺師たちはAIを活用して、大量のコンテンツを次々と生成している

AIを使って作成されたありふれた詐欺キャンペーンも数多く見受けられます。特に仮想通貨関連の詐欺は非常に一般的で、Mediumのような信頼できるサイトでも宣伝されているほどです。

偽情報

AI生成コンテンツで埋め尽くされたデマサイト

政治ニュースではAIの利用が比較的少ない傾向にあるものの（その主な理由は、ブランドセーフティのリスクを懸念して多くの広告主が政治ニュースを敬遠する傾向にあるためです）、AIは偽情報キャンペーンにおいてますます重要な要素となりつつあります。NewsguardにはAI追跡センターがあり、AIを活用した偽情報について詳細かつ最新の追跡を行っています。

悪意のある者がAIを利用して行う他の種類の欺瞞とは異なり、こうした記事の真の目的は、実際に人々にその内容を読ませることにある。通常、こうしたキャンペーンの目的は、特定のトピックに対する世論や人々の見方を変えることにある。

11月の米国大統領選挙が近づくにつれ、こうしたAIの悪用は今後も続くと予想される。

概要

• 2024年7月現在、世界の毎日のニュースの約7％はAIによって生成されていると見られる。
• AI関連コンテンツの公開量という点では、西アフリカと南アジアは例外的な存在である。
• 美容、テクノロジー、ビジネス分野のAI関連コンテンツの割合が最も高く、政治やオピニオン分野が最も低い。
• AI生成コンテンツは、通常、何らかの悪意や欺瞞的な行為と結びつけられがちです。MFA（機械生成コンテンツ）は、質の低い広告枠をあたかも高品質なものだと広告主に信じ込ませようとします。スポンサー付きコンテンツは必ずしも欺瞞的というわけではありませんが、真に信頼できるものではなく、本物の消費者レビューと見間違えることもできません。詐欺や偽情報はインターネットユーザーにとって真の脅威であり、こうしたサイトが引き起こす潜在的な害は明らかです。

ウェブ上のAI関連コンテンツマップや、広告主向けのAIブロックリストについて詳しく知りたい方は、info@pangram.com までご連絡ください！