让您的企业具备应对法律人工智能（LLM）和生成式人工智能（GenAI）的能力

可以说，人工智能（AI）当之无愧地成为了“2023年度人物”。大型语言模型（LLMs）乃至更广泛的生成式人工智能（GenAI）所展现的创新速度和能力，令我们所有人感到惊讶。与此同时，许多人——尤其是在线平台——对这些技术可能带来的潜在风险提出了质疑——参见这篇概述了部分AI风险的《哈佛商业评论》文章。 在线平台可能很快会被AI生成的内容淹没，这不仅会影响用户的安全和留存率，也会损害平台的声誉。目前已有初创公司提供工具，用于生成和传播海量的生成式AI内容。

但人工智能（AI）和生成式人工智能（GenAI）也能为我们所用，帮助我们管理这些风险，并助力打造更安全的数字空间和在线平台，这一点在最近举办的“信任与安全黑客马拉松”中提出的某些构想中可见一斑。随着新工具的涌现，现在正是时候审视我们在应对生成式人工智能给在线平台带来的风险方面，在最新创新成果和处理流程方面所处的阶段。

本文可帮助解答以下问题：

• 我们该如何最好地保护我们的业务、在线社区和用户，使其免受海量人工智能生成内容（例如从评论垃圾信息到侵犯版权及其他法律的非法内容）的侵害？
• 人工智能生成的内容能否被识别出来？
• 在人工智能生成内容的生命周期中，安全防护措施应在哪个阶段应用，又该如何应用？
• 不同市场的相关法规正在如何演变？这对您意味着什么？

根据您的商业模式和需求制定生成式人工智能政策

任何涉及用户生成内容的企业都需要制定一项生成式人工智能（GenAI）政策。通常需要回答两个问题：用户是否希望看到人工智能生成的内容？用户是否接受人工智能内容与人类内容混杂呈现？

如果您对上述任一问题的回答是否定的，那么您就需要制定一份关于 AI 内容的政策。例如，要求披露 AI 内容，或者明确禁止使用 AI 内容。此类政策可以通过具备敏锐眼光的人工审核员，以及借助Pangram Labs 等工具建立的有效流程来执行。

如果答案是肯定的——用户对看到AI生成的内容持接受或积极态度——那么从政策角度来看，这没有问题。不过，在直接引入像领英（LinkedIn）的AI辅助消息这样的AI工具之前，你仍需确保内容的安全性。 为此，你需要建立一些防护措施，更重要的是，必须始终制定流程，以像审核用户生成内容那样，高效地审核AI生成的内容，例如使用Tremau的审核平台等工具。

当然，您的生成式人工智能（GenAI）政策取决于您的业务性质和具体情况。没有放之四海皆准的方案。例如，如果您运营的是一个市场平台，或者用户通常依赖其他用户评价的平台，您可能需要确保没有任何由人工智能生成的评价出现在您的平台上。 更广泛地说，您还需要确保平台上不存在由 AI 生成的非法内容，这与用户生成内容的情况类似。机器人和垃圾信息一直是个难题，但借助生成式 AI 的强大能力，它们变得更加猖獗且更难被识别。

理解并善用人工智能防护措施

大多数商用 AI API 都提供某种形式的 AI 安全防护措施。 Google 的 Gemini API 会自动对其输出结果在四个安全类别中进行评级：仇恨言论、骚扰、色情内容和危险内容。如果您使用 Azure 的 OpenAI API，则会根据“仇恨与公平”、“色情”、“暴力”和“自残”等内容过滤器获得类似的评级。这两款 API 都会拒绝在任何一个类别中评分过高的查询，但对于中等程度的安全审核，则由您自行决定。

如果您使用的是 Llama-2 或 Mistral 等开源模型，则需要自行开发内容过滤器。这可以通过单独调用闭源分类器（如 OpenAI 的内容过滤 API、Azure 的 AI 内容安全 API）或采用开源解决方案（如 Meta 新发布的LlamaGuard）来解决。 LlamaGuard 是一款基于 70 亿参数的 LLM 模型，其基准测试表现非常出色。它在提示词和响应分类以及一般内容审核方面都展现出了良好的潜力。

确保人工参与，并确保您的流程符合相关法规

无论您使用何种自动化工具来保护用户和业务，没有任何技术能够提供绝对的保障。您所使用的所有人工智能工具都难免会出现错误。您需要确保此类错误不会使您面临运营、客户或监管方面的风险。

首先，您始终需要让人类参与其中，至少需要由人工审核工具标记出的部分内容。当然，您的内容审核流程必须既有效又高效。讽刺的是，随着市场上可用的AI工具越来越多（例如用于生成或审核内容），在某些情况下，您可能反而需要更多的人力参与。

其次，任何内容审核流程和做法在设计时都必须以用户的安全和留存——进而也是业务——为考量。 如果审核中的错误引发了用户担忧，该如何应对？如何确保用户在需要纠正您（或您的AI）决策时能够发声？如何确保审核人员拥有所需的一切资源，以便尽可能高效且有效地做出最佳审核决策？要管理这些及其他复杂问题，您需要仔细思考并有效自动化您的流程，例如使用Tremau的内容审核平台等工具。

最后，2024年将是您必须加倍努力确保自身不被监管机构处以罚款的关键一年。欧盟《数字服务法》将正式适用于所有在欧洲运营的在线平台，该法规要求您重新设计业务流程，并提交透明度报告等文件——否则将面临罚款。当然，无论您的平台是否受人工智能影响或使用人工智能，合规都是必不可少的。

有什么可以帮到您的吗？ 在 Checkfor.ai 和 Tremau，我们致力于帮助您更好地应对强大的人工智能技术与新规交织的新时代。

如需了解更多信息，请通过info@tremau.com和info@pangram.com 与我们联系。

西奥多罗斯·埃夫格尼乌（Theodoros Evgeniou）是Tremau公司的联合创始人兼首席创新官，INSEAD教授，经合组织（OECD）人工智能专家网络成员，波士顿咨询集团亨德森研究院（BCG Henderson Institute）顾问，并曾担任世界经济论坛人工智能领域的学术合作伙伴。他拥有麻省理工学院（MIT）授予的四项学位，其中包括人工智能领域的博士学位。

马克斯·斯佩罗（Max Spero）是 Pangram Labs 的联合创始人兼首席执行官。此前，他曾在谷歌（Google）和 Nuro 担任软件工程师，负责构建数据管道和训练机器学习模型。他拥有斯坦福大学计算机科学学士和硕士学位。

本文于2024年1月与Tremau联合发布。