Meta 将开始标识由人工智能生成的内容

图片由 Meta 提供

概述

针对欧洲新颁布的人工智能法规，我们发布了一份分析报告，预测领先企业将开始在人工智能透明度方面采取行动。上个月，我们已开始看到这一预测成为现实——Meta在一篇博客中宣布，该公司“将开始对更多视频、音频和图像内容标注‘由人工智能生成’”。

希望这一声明能促使其他公司开始意识到人工智能生成内容所带来的风险，尤其是其在虚假信息以及深度伪造的图像和视频方面所带来的风险。在该帖子中，该公司宣布了计划采取的几项措施：

Meta 计划开发内部工具，以便在 Facebook、Instagram 和 Threads 上大规模识别由人工智能生成的内容。

待标注的内容将包括来自谷歌、OpenAI、微软、Adobe、Midjourney 等平台的 AI 生成的内容。

该功能将为用户提供一种在上传人工智能生成内容时主动标注的方式，同时也会对未标注所分享人工智能内容的账号进行处罚。

这些举措是一个良好的开端，其制定过程参考了通过Meta内容监督委员会收集到的来自多元利益相关方群体的意见。在完成与国际政策制定者的磋商并调查了超过2.3万名用户后，Meta发现绝大多数受访者（82%）支持这些AI信息披露要求，特别是针对“展示人们说出他们从未说过的话的内容”。

缩小视图

在2024年大选来临之际，很明显，Meta已经从2016年和2020年的美国大选中汲取了正确的教训，并正在投资建设合适的系统，以更好地保护用户免受日益泛滥的AI助长的不实信息浪潮的侵害。此外，Meta计划在欧盟《人工智能法案》于5月生效之前实施这些政策，这绝非偶然。

Meta的决策和领导力无疑将影响其他公司如何看待自身平台面临的风险。在世界经济论坛（WEF）的一场小组讨论中，Meta全球事务总裁已将检测人工智能生成内容的努力称为当今科技行业面临的“最紧迫任务”。

那么，其他公司该如何遵循这一指导方针，既保护自身平台免受虚假信息滥用的侵害，又能符合欧盟的新规要求呢？以下是一些建议：

• 平台管理层应制定符合监管要求的内容政策，以支持对人工智能生成内容的识别和判定。
• 开发产品功能，让用户能够标注AI生成的内容，或者至少能对AI内容进行标记，以减少其传播范围并降低对其他用户的威胁。
• 使用 Pangram Labs 的 AI 生成内容检测产品，主动标记 AI 生成的内容以便进行审核。

Pangram Labs 致力于打造最优秀的人工智能检测系统，助力企业运营安全且负责任的在线平台。如果您希望采取主动措施，在平台诚信和合规领域引领潮流，请通过info@pangram.com 与我们联系！

若想更全面地了解自该公告发布以来人工智能水印技术的发展状况，请阅读《为何科技巨头在水印技术上的押注正逐渐失利》。