トレモーとパングラム・ラボが提携し、AI生成コンテンツへの取り組みを開始

史上最大の選挙年を迎えようとする今、技術と民主主義の交差点が再び注目を集めている。 2024年には、世界50カ国以上（総人口約42億人）で国政選挙や地方選挙が実施され、世界人口上位10カ国のうち7カ国が対象となる。生成AIの急速な進展により、ユーザーが提示したプロンプトに基づいて誰でもリアルな画像・動画・音声・テキストを作成できるようになったことで、選挙プロセスは新たな課題に直面する可能性がある。

生成AIは、世論に影響を与え、議論や意思決定に波及する可能性から注目を集めている。ディープフェイク動画から大規模な「スマート」なAI生成ターゲティングキャンペーンに至るまで、生成AI技術の展開は民主主義プロセスの健全性に重大な脅威をもたらしうる。こうしたリスクは多様な形態をとりうる。例えば、投票直前に有権者の投票を妨げる試み、候補者の生成画像を用いた虚偽の出来事を捏造し、その虚偽性を立証困難にする行為、あるいは標的を絞った虚偽情報の拡散などが挙げられる。

オンラインプラットフォームにとってこれは何を意味するのか？端的に言えば、特にスキャンダルの可能性がある状況において、自社プラットフォーム上で拡散される疑わしいAI生成コンテンツに関する説明責任をめぐる厄介な質問を回避し、新たな脅威に対処するための信頼性と安全性の運用を改善することである。 パングラム・ラボは、AI生成コンテンツの自動識別・モデレーションを実現する最高精度の手法を開発中です。トレマウが実現するヒューマン・イン・ザ・ループ技術と組み合わせることで、プラットフォームや選挙の健全性を脅かす前にAIコンテンツを制御・モデレートする効果的なプロセスとなります。

欧州委員会が2021年4月にAI法の提案を初めて公表した際、生成AIは規制当局の差し迫った懸念事項とは程遠い存在だった。しかしGPT-4などのAI技術の近年の進歩により状況は一変した。このため欧州議会は欧州委員会の当初提案を大幅に修正し、特に生成AIシステムに適用される具体的な規則を導入した（議会提案）。 生成AIは「汎用AIシステム」のカテゴリーに分類され、コンテンツがAIによって生成されたことを開示するなどの透明性要件を遵守しなければならない。Tremauのモデレーションプラットフォームのようなコンプライアンス・バイ・デザイン型コンテンツモデレーションプラットフォームを利用すれば、こうした規制義務の履行を容易に実現できる。

多くの企業は、AIがもたらす課題やリスクへの備えが単なる規制問題ではないことを認識している。AIの急速な発展はブランドセーフティやプラットフォーム健全性への課題をもたらす。したがって、悪意ある主体がAIコンテンツをスパムや偽情報に悪用する手法を把握し、自社プラットフォームから排除する手段を講じることが不可欠である。

これらの理由から、そしてすべての人々にとって安全で有益なデジタル世界を構築するという当社の使命の一環として、TremauとPangram Labsは提携し、ユーザー生成コンテンツ向けのAI生成コンテンツ検出およびAI開示機能を提供します。これにより、プラットフォームはコンプライアンスを維持しつつ、ユーザー生成コンテンツの真正性を保つことが可能となります。

ご用件をお聞かせください。

パングラム・ラボは、AI生成コンテンツの検出を自動化するツールを開発しており、まずはテキストと音声から着手しています。

トレモーは、強力なAIと新たな規制がもたらす新たな世界を、お客様が最善の方法で乗り切るお手伝いをいたします。詳細はtremau.comをご覧ください。

詳細については、info@pangram.comおよびinfo@tremau.com までお問い合わせください。