Meta将开始识别人工智能生成的内容

图片由Meta提供

概述

针对欧洲新颁布的人工智能法规，我们发布了分析报告，预测行业领军企业将开始采取行动提升人工智能透明度。上个月，这一预测已初见端倪——Meta在博客中宣布"将开始为更多视频、音频和图像内容添加'由人工智能生成'的标识"。

希望此公告能促使其他公司开始意识到人工智能生成内容带来的风险，尤其是在虚假信息以及深度伪造图像和视频方面。在公告中，该公司宣布了计划采取的若干措施：

Meta计划开发内部工具，用于在Facebook、Instagram和Threads平台上大规模识别人工智能生成的内容。

待标注的内容将包含来自谷歌、OpenAI、微软、Adobe、Midjourney等公司的AI生成内容。

该功能将为用户提供一种自愿披露的方式，当他们上传人工智能生成的内容时可主动标注，同时对未披露共享人工智能内容的账户实施处罚。

这些举措是一个良好的开端，其制定过程参考了Meta内容监督委员会中多元利益相关方的意见。在完成与国际政策制定者的磋商并调查超过23,000名用户后，Meta发现绝大多数用户（82%）支持这些AI披露措施，尤其针对"将未曾说过的话强加于人的内容"。

缩小范围

在2024年大选前夕，Meta显然已从2016年和2020年美国大选中汲取了正确教训，正着力投入建设有效系统，以更好地保护用户免受日益猖獗的人工智能规模化虚假信息侵袭。Meta选择在欧盟《人工智能法案》五月生效前推行这些政策，也绝非偶然。

Meta的决策与领导力必将影响其他企业如何重新审视自身平台风险。在世界经济论坛的专题讨论中，Meta全球事务总裁已将识别人工生成内容的努力称为当今科技行业面临的"最紧迫任务"。

那么其他公司如何遵循这一指导方针，既能保护其平台免受虚假信息滥用，又能符合新的欧盟法规？以下是一些建议：

• 平台领导层应制定符合监管要求的内容政策，以支持对人工智能生成内容的识别与裁决。
• 开发产品功能，使用户能够披露人工智能生成的内容，或至少标记人工智能内容，以减轻其传播及其对其他用户的威胁。
• 使用Pangram Labs的人工智能生成内容检测产品，主动标记需审核的人工智能生成内容。

Pangram Labs正在打造顶尖的人工智能检测系统，助力企业构建安全可靠的在线平台。若您希望采取主动措施，引领平台诚信建设与合规管理新风尚，请通过info@pangram.com与我们联系！