EUの新たなAI法を理解する

写真：アンヘル・ベナ。

先週、欧州議会は、EU加盟国がAI製品やサービスを規制する際に従うべき包括的な枠組みである「人工知能法（AI法）」を可決した。

AI法は、人工知能を利用する製品やサービスに対して「リスクベースのアプローチ」を採用した消費者保護法として制定されたものであり、AIアプリケーションのリスクが高いほど、より厳格な審査の対象となる。リスクレベルは、以下のカテゴリーなどに分類される：

• 「行動を歪め、十分な情報に基づいた意思決定を妨げるような、潜在意識に働きかける手法、操作的な手法、または欺瞞的な手法」を用いるAIシステム、あるいは「基本的人権に対して明らかなリスク」をもたらすAIシステムは、「容認できないリスク」とみなされ、禁止される。
• 重要インフラ、教育、医療、法執行、国境管理、選挙などで使用されるような「高リスク」とみなされるAIシステムは、厳格な要件を満たさなければならない。
• 高リスクのカテゴリーに該当しない汎用AIシステムは、リスクが限定的であるとみなされ、より緩やかな透明性確保の義務が課される。生成AIアプリケーションは、汎用AIシステムとみなされる。

AIを提供する事業者（OpenAIやGoogleなど）と、それらのアプリケーションを利用する企業（ユーザー）の両方に対し、エンドユーザー（消費者）がAIとやり取りしていることを認識できるよう、精度と透明性に関する審査に合格することが義務付けられます。これらの新たな要件を満たせない企業には、最大3,500万ユーロ、または全世界の年間売上高の7％に相当する罰金が科されることになります。

これはオンラインプラットフォームにとってどのような意味を持つのでしょうか？

EU域内にエンドユーザーを抱え、自社製品にAIシステムを活用している企業は、その拠点がどこにあろうと、AI法の適用対象となります。この適用範囲は広く、若干の曖昧さはあるものの、AIコンテンツを利用または公開するオンラインプラットフォームは、これらの新たな規制上の義務を遵守する必要があることは明らかです。

多くのユーザー生成コンテンツ（UGC）プラットフォームにおいて、AI生成コンテンツの投稿が増加していることを受け、ほとんどのオンラインサイト（出版社、マーケットプレイス、ソーシャルメディアサイトなど）は、以下のような透明性確保やモデレーションのための仕組みを構築する必要に迫られるでしょう。

• プラットフォーム上で生成または公開されたコンテンツがAIによって作成されたものであるかどうかを開示すること。
• AIによって生成された不正な投稿を排除するプラットフォームの設計。
• 社内モデルのトレーニングに使用した、著作権で保護されたデータの概要を公開する。

コンテンツプラットフォーム上でAI生成コンテンツが配信される場合、そのコンテンツへのラベル付け、ひいては検知が義務付けられることになります。これは、テキスト、音声、画像、動画など、あらゆる形式のコンテンツに適用されます：

「合成音声、画像、動画、またはテキストコンテンツを生成する汎用AIシステムを含むAIシステムの提供者は、当該AIシステムの出力結果が機械可読形式で表示され、人工的に生成または加工されたものであることが識別可能となるよう確保しなければならない。」

私たちは、安全なAIシステムの普及を目指すEUの立法趣旨を支持する一方で、企業がこの法律を解釈し、遵守する上で混乱が生じる可能性があることも認識しています。これらの義務は曖昧に映るかもしれません。また、AI法では、二次的なコンテンツ（ユーザーレビューやコメントなど）がこれらの要件の対象となるかどうか、あるいは企業がどのようなコンプライアンスチェックを導入する必要があるかについて、具体的に明記されていません。

企業はどのようにしてAI法に先手を打つことができるか？

朗報なのは、企業がコンプライアンス対応のための対策を講じるための時間的余裕があるという点だ。同法は5月までに成立する見込みであり、その規定は段階的に施行される予定で、透明性に関する要件の多くは、今から1年後に初めて適用されることになる。

とはいえ、企業が同法の施行に先んじて今すぐ講じることができる対策はいくつかあると考えています。特に、企業は以下の取り組みを進めるべきでしょう：

• ユーザー生成コンテンツに関する明確なガイドラインとガバナンス。
• AI生成コンテンツを特定するための、より効率的なコンテンツモデレーションのワークフロー。
• AI生成コンテンツの拡散を防ぐための自動化機能。

すでに、一部の企業が動き出しています。YouTubeやInstagramなどのプラットフォームでは、ユーザーが「現実的な」AI生成コンテンツをアップロードする際、自ら申告するよう求めています。この「信頼システム」が同法への準拠に十分かどうかは定かではありませんが、業界のリーダーたちがこの法律とAIの安全性を真剣に受け止めていることを示す、強力なシグナルと言えます。

パングラム・ラボでは、企業が安全かつ責任あるオンラインプラットフォームを運営できるよう、最高のAI検知システムの開発に尽力しています。私たちは、EUが掲げるインターネットの透明性という目標に大きな期待を寄せており、研究者や政策立案者の方々と協力し、これらの重要な基準を具体化していくことを楽しみにしています。

お問い合わせは、info@pangram.com までメールをお送りください！