バイデン大統領のAI安全に関する大統領令に関する声明

注： 社名を「Pangram Labs」に変更しました！詳細はブログ記事をご覧ください。

本日、バイデン政権はAIの安全性とセキュリティに関する新たな基準を発表し、その中にはAIによるコンテンツ検出に関する以下の指針も含まれている：

商務省は、AI生成コンテンツを明確に識別できるよう、コンテンツの真正性確認および透かし処理に関する指針を策定する。連邦政府機関はこれらのツールを活用し、国民が政府から受け取る情報が真正であることを容易に確認できるようにするとともに、民間企業や世界中の政府に対して模範を示す。

ai.govのジョー・バイデン。

Checkfor.aiは、大規模言語モデルの安全かつ責任ある導入に向けたバイデン政権の取り組みを全面的に支持します。AIコンテンツの真正性確認に関するガイドラインや政策の策定は、AIの安全性確保に向けた正しい方向への重要な一歩であり、大規模言語モデルによって生成されるスパムやその他の悪意あるコンテンツからインターネットを守るという当社の使命とも合致するものです。 社会全体として、AI生成コンテンツの検出により一層注力すれば、AI技術の消費者と利用者の双方にとって、世界はより良い場所になるでしょう。本日、コンテンツの認証、透かし（ウォーターマーク）の付与、および検出に関する当社の立場について、声明を発表いたします。

• 現時点では、この問題を解決するのに十分な検知ソリューションは存在しないと私たちは考えており、AIによる検知の解決に向けて、より多くのリソースを投入しなければならないと考えています。
• 我々は、透かし処理がこの問題の解決策にはならないと考えています。なぜなら、透かし処理は誤った安心感を与え、ユーザーがモデルの重みにアクセスできる場合や出力を編集できる場合には、その限界が実証されているからです（https://arxiv.org/pdf/2305.03807.pdf,https://arxiv.org/pdf/2301.10226.pdf）。 強力で高性能な透かしなしのオープンソースモデルはすでに存在しており、悪意のある攻撃者は常に、検出を回避するためにこれらのモデルを独自にローカルで微調整することが可能です。さらに、私たちは、透かしなしのモデルであっても検出の問題は解決可能であると考えています。
• 私たちは、AIの安全性に関する規制および大規模言語モデルの開発を支持しますが、その前提として、あらゆる規制がオープンソースのエコシステムを支えるものでなければならないという点が重要です。オープンソースは、巨大なテクノロジー企業に対するチェック・アンド・バランス機能や消費者への透明性を提供し、一般の人々がこれらのモデルを自由に評価・批判・比較検討することを可能にします。
• 私たちは、AIの安全性を促進し、AI検知研究に投資するという政府の役割は、学術界および産業界におけるAI検知プロジェクトへの資金提供に重点を置くべきであると考えています。
• AI検出技術の研究を効果的に推進するためには、消費者が利用可能なAI検出ツールの有効性と限界を把握できるよう、ベンチマークや評価基準を確立する必要があります。私たちは、より大規模で高性能な言語モデルが安全かつ責任を持って導入されるよう、AI検出に関する業界全体の標準の策定と普及に尽力してまいります。

Checkfor.aiでは、次世代の言語モデルを安全かつ生産的に導入できるよう、信頼性の高いAI検出システムの構築に尽力しています。バイデン政権が、人間が作成したコンテンツとAIが生成したコンテンツを区別することに注力していることを大変喜ばしく思っており、研究者や政策立案者の方々と協力し、こうした重要な基準を策定していくことを楽しみにしています。