TremauとPangram Labsが提携し、AI生成コンテンツ分野に参入

史上最大規模の選挙の年を目前に控え、テクノロジーと民主主義の交差が再び脚光を浴びています。 2024年には、世界人口の約42億人を擁する50カ国以上で国政選挙や地方選挙が実施される予定であり、その中には世界人口上位10カ国のうち7カ国が含まれている。ユーザーが指定したプロンプトに基づいて、誰でもリアルな画像、動画、音声、テキストを作成できる生成AIの急速な進展に伴い、選挙プロセスには新たな課題が生じる可能性がある。

生成AIは、世論に影響を与え、ひいては議論や意思決定に波及する可能性を秘めているとして注目を集めている。ディープフェイク動画から、AIによって生成された「スマート」なターゲット型キャンペーンの大規模展開に至るまで、生成AI技術の活用は、民主主義のプロセスの健全性に重大な脅威をもたらす恐れがある。こうしたリスクは、投票直前に有権者の投票意欲を削ごうとする試み、反証が困難な候補者の合成映像を用いた出来事をでっち上げる行為、あるいは特定の層を標的とした虚偽の情報を拡散させることなど、多岐にわたる。

これはオンラインプラットフォームにとって何を意味するのでしょうか？簡単に言えば、プラットフォーム上で生成された疑わしいAIコンテンツの拡散に関する説明責任を問われるような厄介な質問を避け、特にスキャンダルの可能性に直面した際に、新たな脅威に対処できるよう信頼と安全の運用体制を強化することです。 Pangram Labsは、AI生成コンテンツの特定とモデレーションを自動化するため、最も精度の高い検出手法を開発しています。Tremauが実現する「ヒューマン・イン・ザ・ループ」技術と組み合わせることで、プラットフォームや選挙の健全性を脅かす前に、AIコンテンツを管理・モデレートするための効果的なプロセスが構築されます。

2021年4月に欧州委員会が初めてAI法に関する提案を公表した当時、生成AIは規制当局にとって喫緊の課題とはほど遠い存在でした。しかし、GPT-4をはじめとするAIの近年の進歩により、状況は一変しました。このため、欧州議会は欧州委員会の当初の提案を大幅に修正し、特に生成AIシステムに適用される具体的な規則を導入しました（議会提案）。 生成AIは「汎用AIシステム」のカテゴリーに分類され、コンテンツがAIによって生成されたことを開示することを含む透明性要件を遵守しなければならない。Tremauのモデレーション・プラットフォームのような、設計段階からコンプライアンスを考慮したコンテンツ・モデレーション・プラットフォームを利用すれば、こうした規制上の義務への対応を容易に行うことができる。

多くの企業は、AIがもたらす課題やリスクへの備えが、単なる規制上の問題にとどまらないことを認識しています。AIの急速な発展は、ブランドの安全性やプラットフォームの健全性にとって課題となっています。そのため、悪意のある者がAI生成コンテンツをスパムや偽情報に悪用する手口を把握し、ツールを活用して自社のプラットフォームからそれらを排除することが不可欠です。

こうした理由から、そしてすべての人にとって安全で有益なデジタル世界を構築するという当社の使命の一環として、TremauとPangram Labsは提携し、ユーザー生成コンテンツ（UGC）向けのAI生成コンテンツ検出機能およびAI使用の開示機能を提供します。これにより、プラットフォームは規制を遵守しつつ、ユーザー生成コンテンツの信頼性を維持することができます。

何かお手伝いできることはありますか？

Pangram Labsは、テキストや音声から始め、AI生成コンテンツの検出を自動化するツールを開発しています。

Tremauは、高度なAI技術と新たな規制がもたらす新たな世界において、お客様が最適な道筋を見つけられるよう支援いたします。詳細はtremau.com をご覧ください。

詳細については、info@pangram.comまたはinfo@tremau.com までお問い合わせください。