Tremau 与 Pangram Labs 携手进军人工智能生成内容领域

随着我们即将迎来历史上规模最大的选举年，科技与民主的交汇再次成为焦点。 2024年，全球将有50多个国家举行国家及地区选举，总人口约42亿，其中包括全球人口最多的十个国家中的七个。随着生成式人工智能的迅猛发展——该技术允许任何人根据用户提供的提示生成逼真的图像、视频、音频或文本——选举过程可能面临新的挑战。

生成式人工智能因其可能影响公众舆论、进而左右辩论和决策而备受关注。从深度伪造视频到大规模的“智能”定向人工智能生成式宣传活动，生成式人工智能技术的应用可能对民主进程的完整性构成重大威胁。这些风险表现形式多样，包括在投票最后关头试图阻止民众投票、制造包含难以被揭穿的候选人合成形象的事件，或是传播定向的虚假信息。

这对在线平台意味着什么？简而言之：避免因平台上传播的可疑AI生成内容而面临责任归属方面的棘手问题，尤其是在可能爆出丑闻的情况下；同时，完善信任与安全运营体系，以应对潜在的新威胁。 Pangram Labs 正在开发最精准的人工智能生成内容检测方法，以实现对 AI 内容的自动化识别和审核。结合Tremau 支持的“人机协同”技术，这是一种有效的流程，可在 AI 内容威胁到平台或选举的完整性之前对其进行管控和审核。

2021年4月，当欧盟委员会首次发布《人工智能法案》提案时，生成式人工智能远非监管机构的当务之急。随着GPT-4等人工智能技术的近期突破，这一局面发生了根本性转变。正因如此，欧洲议会对欧盟委员会的初始提案进行了重大修订，特别是引入了适用于生成式人工智能系统的具体规则（即《议会提案》）。 生成式人工智能属于“通用人工智能系统”范畴，必须遵守包括披露内容由人工智能生成在内的透明度要求。借助Tremau的内容审核平台等“设计即合规”的内容审核平台，企业可轻松履行这些监管义务。

许多企业已经意识到，应对人工智能带来的挑战和风险不仅仅是一个监管问题。人工智能的快速发展给品牌安全和平台健康带来了挑战——因此，必须了解恶意行为者如何利用人工智能生成内容进行垃圾信息和虚假信息传播，并运用相关工具将其阻隔在平台之外。

基于以上种种原因，并作为我们致力于为所有人构建一个安全且有益的数字世界这一使命的一部分，Tremau 与 Pangram Labs 携手合作，为用户生成内容提供人工智能生成内容检测及人工智能标识服务。通过这种方式，平台既能确保合规，又能保持用户生成内容的真实性。

有什么可以帮到您的吗？

Pangram Labs 正在开发用于自动检测人工智能生成内容的工具，首先从文本和语音入手。

Tremau 致力于帮助您更好地应对强大的人工智能和新规带来的新局面。更多详情请访问tremau.com。

如需了解更多信息，请通过info@pangram.com或info@tremau.com 与我们联系。