宣布与Proofig建立全新合作伙伴关系!了解更多

特雷莫与庞格拉姆实验室携手应对人工智能生成内容

马克斯·斯佩罗与特雷莫
2024年4月17日

当我们站在史上最大选举年的临界点,科技与民主的交汇点再度成为焦点。 全球逾50个国家将于2024年举行国家级或地区级选举,总人口约42亿,其中包括全球十大人口国中的七个。随着生成式人工智能的迅猛发展——该技术能根据用户提示生成逼真的图像、视频、音频或文本——选举流程将面临全新挑战。

生成式人工智能因其影响公众舆论、进而左右辩论与决策的潜力而备受关注。从深度伪造视频到大规模部署的"智能"定向生成式AI宣传活动,生成式AI技术的应用可能对民主进程的完整性构成重大威胁。这些风险可能呈现多种形态,包括在最后关头试图阻止民众投票、制造难以辨别的候选人生成式形象事件,或传播定向虚假故事。

这对在线平台意味着什么?简而言之:避免因平台上传播可疑AI内容而引发的责任追问(尤其在面临潜在丑闻时),并加强信任与安全运营以应对潜在新威胁。 Pangram Labs正开发最精准的人工智能生成内容检测方法,以实现AI内容的自动化识别与审核。结合Tremau赋能的人工干预技术,这套流程能在AI内容威胁平台或选举公正性之前,有效实施内容管控与审核。

当欧盟委员会于2021年4月首次提出《人工智能法案》草案时,生成式人工智能远非监管机构的当务之急。但随着GPT-4等人工智能技术的近期突破,局面已然改变。正因如此,欧洲议会对欧盟委员会的初始提案进行了重大修订,尤其引入了适用于生成式人工智能系统的专项规则(议会提案)。 生成式人工智能被归入"通用人工智能系统"范畴,必须遵守透明度要求,包括披露内容由人工智能生成采用Tremau内容审核平台等"合规设计"的审核平台,可轻松满足这些监管义务。

许多企业已意识到,应对人工智能带来的挑战与风险不仅是监管问题。人工智能的快速发展对品牌安全和平台健康构成挑战——因此必须警惕恶意行为者如何利用人工智能内容传播垃圾信息和虚假信息,并采取工具将其阻隔在平台之外。

基于上述种种原因,并作为我们为所有人构建安全有益数字世界使命的一部分,Tremau与Pangram Labs携手合作,为用户生成内容提供人工智能生成内容检测及人工智能标识服务。通过这种方式,平台既能确保合规运营,又能维护用户生成内容的真实性。

我们能为您做些什么?

Pangram Labs正在开发自动化检测AI生成内容的工具,首先从文本和语音内容开始。

特雷莫致力于助您在强大的人工智能与新规并存的新世界中游刃有余。了解更多请访问tremau.com

如需了解更多信息,请通过以下邮箱联系我们:info@pangram.cominfo@tremau.com

订阅我们的电子报
我们每月分享人工智能检测研究的最新进展。
订阅
以获取我们的最新动态
随时掌握我们的最新资讯与优惠活动。
© 2025 Pangram。保留所有权利。