关于拜登人工智能安全行政令的声明

注意： 我们已更名为 Pangram Labs！详情请参阅我们的博客文章。

今天，拜登政府发布了关于人工智能安全与保障的新标准，其中包括这项关于人工智能内容检测的指令：

美国商务部将制定内容认证和水印技术指南，以明确标注人工智能生成的内容。联邦机构将利用这些工具，让美国民众能够轻松辨别其收到的政府信息是否真实可靠，并为私营部门及全球各国政府树立榜样。

乔·拜登，来自 ai.gov。

Checkfor.ai全力支持拜登政府对安全、负责任地部署大型语言模型的承诺。我们认为，制定关于人工智能内容认证的指南和政策，是迈向人工智能安全的重要一步，这与我们保护互联网免受垃圾信息及其他由大型语言模型生成的恶意内容侵害的使命相契合。 如果全社会能加大对检测 AI 生成内容的投入，无论是作为消费者还是作为 AI 技术的用户，世界都将变得更好。今天，我们希望就公司对内容认证、水印和检测的立场发表一份声明。

• 我们认为，目前尚无任何检测方案能够充分解决这一问题，因此我们必须投入更多资源，专门致力于解决人工智能检测问题。
• 我们认为水印并非解决此问题的良策，因为它会营造一种虚假的安全感，而且当用户能够访问模型权重或编辑输出结果时，水印已被证明存在局限性（https://arxiv.org/pdf/2305.03807.pdf,https://arxiv.org/pdf/2301.10226.pdf）。 目前已有功能强大且性能出色的无水印开源模型，恶意行为者总能通过本地微调来创建自己的版本以逃避检测。此外，我们认为即使针对无水印模型，检测问题也是可以解决的。
• 我们支持针对人工智能安全及大型语言模型开发的监管，但有一项关键前提：所有监管措施都必须支持开源生态系统。开源机制能够对实力雄厚的大型科技公司形成制衡，为消费者提供透明度，并使公众能够自由地评估、批评和对这些模型进行基准测试。
• 我们认为，政府在促进人工智能安全及投资人工智能检测研究方面的作用，应侧重于为学术界和产业界的人工智能检测项目提供资金支持。
• 为了推动人工智能检测领域的有效研究，我们必须建立基准和评估标准，以便消费者能够了解现有人工智能检测工具的有效性和局限性。我们致力于制定并推动全行业的人工智能检测标准，从而确保更大、更强大的语言模型能够得到安全且负责任的部署。

在 Checkfor.ai，我们正致力于构建可靠的人工智能检测系统，以确保新一代语言模型能够安全且高效地投入使用。我们欣喜地看到拜登政府致力于区分人类生成与人工智能生成的内容，并期待与研究人员及政策制定者通力合作，共同制定这些重要标准。