解读欧盟新《人工智能法》

照片由安吉尔·贝纳拍摄。

上周，欧洲议会通过了《人工智能法案》（AI Act），该法案为欧盟成员国监管人工智能产品和服务提供了全面的框架。

《人工智能法案》旨在作为一项消费者安全立法，对使用人工智能的产品或服务采取“基于风险的方法”——人工智能应用的风险越高，面临的审查就越严格。风险等级被细分为不同类别，包括：

• 任何采用“潜意识、操纵性或欺骗性手段来扭曲行为并妨碍知情决策”的人工智能系统，或对“基本人权构成明显风险”的人工智能系统，都将被视为“不可接受的风险”并予以禁止。
• 被视为“高风险”的人工智能系统，例如应用于关键基础设施、教育、医疗保健、执法、边境管理或选举领域的系统，必须符合严格的要求。
• 不属于高风险类别的通用人工智能系统将被视为低风险系统，并适用较宽松的透明度义务。生成式人工智能应用将被视为通用人工智能系统。

无论是技术提供商（如OpenAI/谷歌），还是用户（即使用这些应用程序的企业），都必须通过准确性和透明度测试，以确保最终用户（消费者）清楚地知道自己正在与人工智能进行交互。无法遵守这些新要求的企业将面临最高3500万欧元或其全球年收入7%的罚款。

这对在线平台意味着什么？

任何企业在欧盟境内拥有终端用户，且其产品中运用了人工智能系统，无论其注册地在哪里，都将受《人工智能法案》的约束。尽管该法案的适用范围广泛且存在一定模糊性，但可以明确的是，使用或发布人工智能内容的在线平台必须遵守这些新的监管义务。

随着许多用户生成内容平台上由人工智能生成的内容发布量不断增加，大多数在线网站（例如出版商、电商平台和社交媒体网站）很可能需要建立一些透明度机制和内容审核控制措施，包括：

• 披露平台上生成的或发布的內容是否由人工智能创作。
• 设计该平台以屏蔽非法的AI生成的投稿。
• 发布用于训练内部模型的受版权保护的数据摘要。

如果人工智能生成的内容要在内容平台上传播，现在必须对其进行标注，并据此进行识别。这一规定适用于任何形式的内容——包括文本、音频、图片和视频：

“生成合成音频、图像、视频或文本内容的人工智能系统（包括通用人工智能系统）的提供者，应当确保该人工智能系统的输出结果以机器可读的格式进行标注，并能够被识别为人工生成或经过处理的内容。”

虽然我们支持欧盟旨在促进人工智能系统安全的立法意图，但也意识到企业解读和遵守该法律可能会感到困惑。这些义务似乎有些模糊，《人工智能法案》并未明确说明次要类型的内容（如用户评论或留言）是否受这些要求约束，也未详细说明企业需要采取哪些合规核查措施。

企业如何在《人工智能法案》出台前做好准备？

好消息是，企业将有时间制定解决方案以确保合规。该法案预计将于5月正式生效，其条款将分阶段实施，其中许多透明度要求将在一年后才开始适用。

话虽如此，我们认为企业现在可以采取一些措施，以防该法律被强制执行。特别是，企业应着力制定：

• 关于用户生成内容的明确指南和治理规范。
• 更高效的内容审核工作流程，用于识别由人工智能生成的内容。
• 防止人工智能生成内容扩散的自动化措施。

目前，我们已经看到一些公司开始采取行动——YouTube和Instagram等平台正在要求用户在上传“逼真”的AI生成内容时进行主动申报。虽然尚不清楚这种“信任机制”是否足以符合该法案的要求，但这强烈表明行业领军企业正认真对待这项立法以及AI安全问题。

在 Pangram Labs，我们正致力于打造最优秀的人工智能检测系统，以帮助企业运营安全且负责任的在线平台。欧盟关于互联网透明度的目标令我们倍感鼓舞，我们期待与研究人员和政策制定者通力合作，共同完善这些重要标准。

想联系我们吗？请发送电子邮件至info@pangram.com！