EUの新たなAI法を理解する

写真：エンジェル・ベナ

先週、欧州議会は人工知能法（AI法）を可決した。これはEU加盟国がAI製品・サービスを規制する際に従うべき包括的な枠組みである。

AI法は消費者安全法としての役割を果たすことを目的としており、人工知能を利用する製品やサービスに対して「リスクベースのアプローチ」を採用する。つまり、AIアプリケーションのリスクが高いほど、より厳格な審査を受けることになる。リスクレベルは以下のカテゴリーに分類される：

• 「行動を歪め、情報に基づいた意思決定を損なうための潜在的・操作的・欺瞞的手法」を採用するAIシステム、または「基本的人権に対する明らかなリスク」をもたらすAIシステムは、「許容できないリスク」とみなされ、禁止される。
• 重要インフラ、教育、医療、法執行、国境管理、選挙などで使用される「高リスク」とみなされるAIシステムは、厳格な要件を遵守しなければならない。
• 高リスクカテゴリーに該当しない汎用AIシステムは限定リスクとみなされ、より軽い透明性義務の対象となる。生成AIアプリケーションは汎用AIシステムとみなされる。

生産者（OpenAIやGoogleなど）と利用者（それらのアプリケーションを利用する企業）の双方は、正確性と透明性に関する試験に合格することが義務付けられる。これにより、エンドユーザー（消費者）がAIとやり取りしていることを認識できるようになる。これらの新たな要件を遵守できない企業には、最大3500万ユーロまたは全世界年間収益の7％に相当する罰金が科される。

これはオンラインプラットフォームにとって何を意味するのか？

EU域内にエンドユーザーを有し、製品にAIシステムを活用する企業は、その拠点がどこにあろうとAI法の適用対象となる。適用範囲は広く曖昧な部分もあるが、AIコンテンツを利用または公開するオンラインプラットフォームがこれらの新たな規制義務を遵守する必要があることは明らかである。

多くのユーザー生成コンテンツプラットフォームでAI生成コンテンツの投稿が増加していることを受け、ほとんどのオンラインサイト（例：出版社、マーケットプレイス、ソーシャルメディアサイト）は、以下のような透明性とモデレーション管理機能を構築する必要が生じる可能性が高い：

• プラットフォーム上で生成または公開されたコンテンツがAIによって作成されたものであるかどうかを開示すること。
• 違法なAI生成コンテンツを拒否するプラットフォームの設計。
• 自社モデルを訓練するために使用した著作権保護データの要約を公開する。

AI生成コンテンツの表示（およびそれに伴う検出）は、当該コンテンツがコンテンツプラットフォーム上で配信される場合、今後必須要件となる。これはあらゆる形式のコンテンツ（テキスト、音声、画像、動画）に適用される：

汎用人工知能システムを含む、合成音声、画像、動画またはテキストコンテンツを生成する人工知能システムの提供者は、当該人工知能システムの出力結果が機械可読形式で表示され、人工的に生成または操作されたものであることが識別可能であることを確保しなければならない。

EUが安全なAIシステムの促進を立法目的としている点については支持する一方、企業が本法の解釈と遵守を行う上で混乱が生じる可能性があることも認識している。これらの義務はかなり曖昧に映る可能性があり、AI法では二次的なコンテンツ（ユーザーレビューやコメントなど）がこれらの要件の対象となるか、あるいは企業が組み込むべきコンプライアンスチェックの内容について具体的に明記されていない。

企業はAI法にどう先んじるべきか？

良い知らせは、企業がコンプライアンス対応策を開発する時間的余裕があることです。同法は5月までに成立する見込みで、その規定は段階的に施行され、多くの透明性要件は今から1年後に適用開始となります。

とはいえ、企業が法の施行を未然に防ぐために今すぐ取れる対策があると考えています。特に、企業は以下の開発に取り組むべきです：

• ユーザー生成コンテンツに関する明確なガイドラインとガバナンス。
• AI生成コンテンツを特定するための、より効率的なコンテンツモデレーションワークフロー。
• AI生成コンテンツの拡散を防ぐ自動化システム

すでに、一部の企業が行動を起こしている。YouTubeやInstagramなどのプラットフォームでは、AIが生成した「リアルな」コンテンツをアップロードする際に、ユーザー自身による申告を求めている。この「信頼システム」が同法への準拠に十分かどうかは不明だが、業界リーダーがこの立法とAIの安全性を真剣に受け止めていることを示す強いシグナルである。

パングラム・ラボでは、企業が安全かつ責任あるオンラインプラットフォームを運営できるよう、最良のAI検知システム構築に尽力しています。EUが掲げるインターネット透明性の目標に勇気づけられ、研究者や政策立案者と連携し、これらの重要な基準を具体化していくことを楽しみにしています。

お問い合わせをご希望ですか？info@pangram.com までメールをお送りください！