MetaはAI生成コンテンツの識別を開始する

画像提供：Meta

概要

欧州で新たなAI規制が可決されたことを受け、当社は主要企業がAIの透明性向上に向けた取り組みを開始すると予測した分析を発表しました。先月、その予測が現実のものとなり始めました——Metaはブログで「より幅広い動画・音声・画像コンテンツに『AIで作成』の表示を開始する」と発表しました。

この発表は、特に誤情報やディープフェイク画像・動画に関連するリスクにおいて、AI生成コンテンツがもたらす危険性を他社が認識し始める兆候となることを期待しています。投稿の中で同社は、計画しているいくつかの対策を明らかにしました：

Metaは、Facebook、Instagram、Threads上にAI生成コンテンツが表示された際に、大規模に識別するための内部ツールを構築する計画だ。

ラベル付け対象となるコンテンツには、Google、OpenAI、Microsoft、Adobe、MidjourneyなどによるAI生成コンテンツが含まれます。

ユーザーがAI生成コンテンツをアップロードする際に自主的に開示する方法を追加すると同時に、共有されたAIコンテンツを開示しないアカウントにはペナルティを課す。

これらの措置は素晴らしい第一歩であり、Metaのコンテンツ監視委員会を通じて多様なステークホルダーの意見を反映したものです。国際的な政策立案者との協議を終え、23,000人以上のユーザーを対象とした調査を実施した結果、圧倒的多数（82%）が特に「人物が実際には発言していない内容を表現するコンテンツ」に対するAI開示を支持していることが判明しました。

ズームアウト

2024年の選挙を前に、Metaが2016年と2020年の米国選挙から正しい教訓を学び、AI規模の偽情報が拡大する波からユーザーをより効果的に守るための適切なシステムに投資していることは明らかだ。また、MetaがEUのAI法が5月に発効する前にこれらの政策を実施しようとしているのも偶然ではない。

メタの決定とリーダーシップは、間違いなく他社がいかに自社のプラットフォームリスクを考えるかに影響を与えるだろう。世界経済フォーラム（WEF）のパネルディスカッションで、メタのグローバルアフェアーズ担当プレジデントは、人工的に生成されたコンテンツを検知する取り組みを「現代のテクノロジー業界が直面する最も緊急の課題」と呼んだ。

では、他の企業はこの指針に従い、プラットフォームを誤情報の悪用から保護しつつ、新たなEU規制への準拠を維持するにはどうすればよいのか？いくつかのアイデアを以下に示す：

• プラットフォームのリーダーシップは、AI生成コンテンツの特定と裁定を支援するため、規制に準拠したコンテンツポリシーを設定すべきである。
• ユーザーがAI生成コンテンツを開示できるようにする製品機能を開発するか、少なくともAIコンテンツをフラグ付けして拡散を抑制し、他のユーザーへの脅威を軽減する。
• Pangram LabsのAI生成コンテンツ検出製品を活用し、AI生成コンテンツを事前にフラグ付けしてレビュー対象としてください。

パングラム・ラボは、企業が安全かつ責任あるオンラインプラットフォームを運営できるよう、最先端のAI検知システムを開発しています。プラットフォームの健全性と規制順守において先導的な取り組みを積極的に進めたいとお考えなら、info@pangram.com までお問い合わせください！