ビジネスをLLMおよびジェネレーティブAIに対応させる

間違いなく「2023年の年間最優秀人物」はAIだったと言えるでしょう。大規模言語モデル（LLM）や、より広くは生成AI（GenAI）の革新のスピードと能力には、誰もが驚かされました。一方で、特にオンラインプラットフォームでは、こうした技術がもたらす潜在的なリスクについて疑問を呈する声も多く上がっています。AIのリスクについて概説したハーバード・ビジネス・レビューの記事もご参照ください。 オンラインプラットフォームは間もなくAI生成コンテンツで溢れかえり、ユーザーの安全性や定着率、さらにはプラットフォームの評判にも影響を及ぼす可能性がある。すでに、膨大な量の生成AIコンテンツを生成・配信するツールを提供するスタートアップ企業も現れている。

しかし、最新の「Trust & Safety Hackathon」で提案されたアイデアからもわかるように、AIやジェネレーティブAIは、こうしたリスクを管理し、より安全なデジタル空間やオンラインプラットフォームの構築に役立てるためにも活用できます。新たなツールが登場する今こそ、ジェネレーティブAIによってオンラインプラットフォームが直面するリスクを管理するための最新のイノベーションやプロセスについて、現状を把握する絶好の機会です。

この記事では、次のような疑問にお答えします：

• AIによって生成される大量のコンテンツ（レビュースパムから、著作権法やその他の法律に違反する違法コンテンツまで）から、自社のビジネス、オンラインコミュニティ、そしてユーザーをどのようにして最も効果的に保護すればよいでしょうか？
• AIが生成したコンテンツは検出できるのか？
• AI生成コンテンツのライフサイクルのどの段階で、安全対策を導入できるのか、またその方法はどのようなものか。
• 各市場における関連規制はどのような動きを見せているのか、そしてそれは皆様にとってどのような意味を持つのでしょうか？

自社のビジネスモデルやニーズを踏まえて、ジェネレーティブAIに関するポリシーを策定してください

ユーザー生成コンテンツを扱うすべての企業には、生成AIに関するポリシーが必要です。一般的に、以下の2つの問いに答える必要があります。ユーザーはAI生成コンテンツを閲覧したいと考えているか、そしてAI生成コンテンツが人間の作成したコンテンツと混在することについて、ユーザーは問題ないと考えているか、ということです。

どちらかの質問に対する答えが「いいえ」であるなら、AI生成コンテンツに関するポリシーを策定する必要があります。例えば、AI生成コンテンツであることを明示することを義務付ける、あるいはAI生成コンテンツを明確に禁止するといった措置です。このようなポリシーは、鋭い目を持つ人間のモデレーターや、Pangram Labsのようなツールを活用した効果的なプロセスによって実施することができます。

もし答えが「はい」――つまり、ユーザーがAI生成コンテンツを問題なく受け入れている、あるいは積極的に歓迎している――であれば、ポリシーの観点からは問題ありません。しかし、LinkedInのAI支援メッセージのように、AIツールを直接導入する前に、そのコンテンツが安全であることを確認する必要があります。 そのためには、一定の安全策が必要であり、さらに重要なのは、Tremauのモデレーションプラットフォームのようなツールを活用し、ユーザー生成コンテンツのモデレーションと同様に、AI生成コンテンツを効果的かつ効率的に管理するプロセスを常に整備しておくことです。

もちろん、生成AIに関するポリシーは、事業内容や状況によって異なります。万能な解決策など存在しません。例えば、マーケットプレイスや、ユーザーが他のユーザーのレビューを参考にしているプラットフォームを運営している場合、AIによって生成されたレビューがプラットフォーム上に掲載されないよう対策を講じる必要があるかもしれません。 より一般的には、ユーザー生成コンテンツと同様に、AIによって生成された違法なコンテンツがプラットフォーム上に存在しないようにすることも必要です。ボットやスパムは以前から課題でしたが、GenAIの能力によって、それらはより強力になり、検知が難しくなっています。

AIのガードレールを理解し、活用する

ほとんどの商用AI APIには、何らかのAIの安全対策が備わっています。 GoogleのGemini APIは、出力結果を「ヘイトスピーチ」「ハラスメント」「性的に露骨な内容」「危険なコンテンツ」という4つの安全カテゴリごとに自動的に評価します。AzureのOpenAI APIを使用する場合も、「ヘイトと公平性」「性的な内容」「暴力」「自傷行為」というコンテンツフィルターに基づいて同様の評価が行われます。どちらのAPIも、これらのカテゴリのいずれかでスコアが高すぎるクエリは拒否しますが、中程度の安全性の調整については利用者の判断に委ねられています。

Llama-2 や Mistral などのオープンソースモデルを使用している場合は、独自のコンテンツフィルターを実装する必要があります。この問題は、クローズドソースの分類器（OpenAI のコンテンツフィルター API やAzure の AI コンテンツセーフティ API）を別途呼び出すか、Meta が新たにリリースしたLlamaGuard などのオープンソースソリューションを利用することで解決できます。 LlamaGuardは、70億パラメータを持つLLMベースのモデルであり、ベンチマーク結果も非常に良好です。プロンプトや応答の分類だけでなく、一般的なコンテンツモデレーションにおいても有望視されています。

人間が引き続き関与していることを確認し、プロセスが規制に準拠していることを確認してください

ユーザーやビジネスを守るためにどのような自動化ツールを利用しても、完全に保護できる技術など存在しません。使用するAIツールはすべて、常に何らかのミスを犯すものです。そうしたミスが、業務上のリスク、顧客リスク、あるいは規制上のリスクにつながることを防ぐ必要があります。

まず、ツールがチェック対象としてフラグを立てたコンテンツの一部を、少なくとも確認する役割を担う人間を、常にプロセスに組み込む必要があります。もちろん、コンテンツのレビュープロセスは効果的かつ効率的である必要があります。皮肉なことに、市場でAIツール（コンテンツ生成やモデレーション用など）が普及すればするほど、場合によってはより多くの人員を関与させる必要が出てくるかもしれません。

第二に、コンテンツのモデレーションプロセスや運用方針は、ユーザーの安全性と定着率――ひいてはビジネスの成功――を念頭に置いて設計する必要があります。 もしモデレーションの誤りが懸念材料となった場合はどうするか？ ユーザーやAIの決定を修正する必要がある際、ユーザーに意見を述べる機会をどのように確保するか？ モデレーターが、可能な限り効率的かつ効果的に最適なモデレーション判断を下すために必要なものをすべて備えていることを、どう保証するか？ これらをはじめとする複雑な課題に対処するには、例えばTremauのコンテンツモデレーションプラットフォームのようなツールを活用し、プロセスを慎重に検討し、効果的に自動化することが求められます。

最後に、2024年は、規制当局から罰金を科される企業の一員とならないよう、対策をさらに強化する必要がある年となるでしょう。EUの「デジタルサービス法」が欧州で事業を展開するすべてのオンラインプラットフォームに対して適用され、プロセスの再設計や、透明性レポートなどの報告書の提出が義務付けられます。これに従わない場合は罰金が科されます。もちろん、プラットフォームがAIの影響を受けているか、あるいはAIを利用しているかに関わらず、コンプライアンスへの対応は不可欠です。

何かお困りのことはありますか？ Checkfor.aiとTremauでは、強力なAIと新たな規制がもたらす新たな世界において、皆様が最適な道筋を見つけられるよう支援しています。

詳細については、info@tremau.comまたはinfo@pangram.com までお問い合わせください。

テオドロス・エヴゲニウ氏は、Tremauの共同創業者兼最高イノベーション責任者であり、INSEADの教授、OECD人工知能専門家ネットワークのメンバー、BCGヘンダーソン・インスティテュートのアドバイザーを務め、世界経済フォーラムでは人工知能分野のアカデミック・パートナーを務めてきた。MITで4つの学位を取得しており、その中には人工知能分野の博士号も含まれている。

マックス・スペロは、パングラム・ラボスの共同創業者兼CEOである。以前はGoogleおよびNuroでソフトウェアエンジニアとして、データパイプラインの構築や機械学習モデルのトレーニングに従事していた。スタンフォード大学でコンピュータサイエンスの学士号および修士号を取得している。

この記事は、2024年1月にTremauと共同で公開されました。