Metaは、AIが生成したコンテンツの特定を開始する

画像提供：Meta

概要

欧州で新たなAI規制が可決されたことを受け、当社は主要企業がAIの透明性に関する取り組みを開始すると予測する分析レポートを発表しました。先月、その予測が現実のものとなりつつあることが明らかになりました。Metaはブログ記事で、「より幅広い動画、音声、画像コンテンツに『Made with AI』のラベルを付け始める」と発表しました。

今回の発表が、特に誤情報やディープフェイク画像・動画に関連して、AI生成コンテンツがもたらすリスクについて、他の企業も認識し始めるきっかけとなることを期待したい。同社はこの投稿の中で、今後実施を予定しているいくつかの措置を発表した：

Metaは、Facebook、Instagram、Threads上にAI生成コンテンツが投稿された際に、それを大規模に特定するための社内ツールを開発する計画だ。

ラベル付けの対象となるコンテンツには、Google、OpenAI、Microsoft、Adobe、Midjourneyなどが生成したAIコンテンツが含まれます。

これにより、ユーザーがAI生成コンテンツをアップロードする際に、自発的にその旨を開示する手段が追加される一方、AI生成コンテンツの共有について開示を行わないアカウントにはペナルティが科されることになる。

これらの取り組みは素晴らしい第一歩であり、Metaのコンテンツ監視委員会を通じて、多様なステークホルダーからの意見を取り入れて策定されました。国際的な政策立案者との協議や2万3千人以上のユーザーを対象とした調査を経て、Metaは、圧倒的多数（82％）が、特に「実際には言っていないことを言っているように描かれたコンテンツ」について、こうしたAIに関する情報開示を支持していることを確認しました。

全体像を見る

2024年の選挙を控え、Metaが2016年および2020年の米国大統領選挙から適切な教訓を汲み取り、AIによって拡大する偽情報の波からユーザーをより確実に守るための適切なシステムに投資していることは明らかだ。また、MetaがEUの「AI法」が5月に施行される前にこれらの政策を導入しようとしているのも、決して偶然ではない。

Metaの決定とリーダーシップは、間違いなく他社が自社のプラットフォームリスクについてどのように考えるようになるかに影響を与えるだろう。世界経済フォーラム（WEF）のパネルディスカッションにおいて、Metaのグローバルアフェアーズ担当プレジデントは、人工的に生成されたコンテンツを検知する取り組みを、今日のテクノロジー業界が直面する「最も緊急の課題」であるとすでに述べている。

では、他の企業はこの指針に従い、自社プラットフォームを誤情報の悪用から守りつつ、新たなEU規制への準拠を維持するにはどうすればよいのでしょうか。以下にいくつかのアイデアをご紹介します：

• プラットフォームの運営責任者は、AI生成コンテンツの特定と判定を支援するため、規制に準拠したコンテンツポリシーを策定すべきである。
• ユーザーがAI生成コンテンツを公開できるようにする機能を開発するか、少なくともAI生成コンテンツにフラグを立てられるようにし、その拡散や他のユーザーへの脅威を軽減できるようにする。
• Pangram LabsのAI生成コンテンツ検出製品を活用し、AI生成コンテンツを事前に特定して審査対象としてマーク付けしましょう。

Pangram Labsは、企業が安全かつ責任あるオンラインプラットフォームを運営できるよう、最高水準のAI検知システムを開発しています。プラットフォームの健全性と規制遵守において、先駆的な取り組みを進めたいとお考えの方は、ぜひinfo@pangram.com までご連絡ください！

この発表以降、AIによる透かし技術がどのような展開をたどってきたかについて、より広く知りたい方は、「ビッグテック企業が透かし技術への賭けに敗れつつある理由」をご覧ください。