没有哪个行业能逃脱人工智能的影响。
从医生、律师到市场营销人员和社交媒体红人，每个职业都已受到人工智能生成内容的影响。但记者呢？这一职业依赖于读者的信任；然而，最新研究发现，该行业中不受监管的人工智能使用正呈爆发式增长，甚至连广受读者信赖的知名报纸也刊登了人工智能生成的文章。当其他行业都在审视自身的伦理价值观以确定适当的人工智能使用方式时，新闻业也必须如此。 AI工具虽能自动化处理重复性任务并支持数据驱动的叙事，但该技术因存在偏见和“幻觉”而存在缺陷。由于缺乏具有法律约束力的全行业AI使用标准，新闻编辑室只能独自在这片未知的领域中摸索前行。下文我们将探讨当前用于评估新闻编辑室AI伦理使用的框架，分析其中的不足，并提出以透明度和人类监督为核心的综合伦理方案。
由支离破碎且模糊的指导方针所界定的格局
随着人工智能技术的加速发展，伦理治理却未能跟上步伐。不过，一些备受信赖的全球性组织已率先采取行动，致力于弥补这一差距。这些组织正努力帮助新闻机构重获编辑控制权和读者信任，同时仍在竭力应对当今时代编辑、出版商及其撰稿人所面临的各种困境。
联合国教育、科学及文化组织（UNESCO）于2021年通过了关于人工智能伦理的建议，其核心在于强调人类监督。 其中概述通信与信息产业建议的部分为新闻工作者提供了一些指导。该政策规定，人工智能系统应促进信息自由、言论自由、透明度以及官方数据的公开。它鼓励媒体行业的任何人以符合伦理的方式将人工智能融入其工作。该框架还呼吁各国营造透明且具有教育意义的环境，使媒体能够报道人工智能的利弊，并让消费者能够培养数字素养和媒体素养，以应对虚假信息和仇恨言论。
然而，在这份概述联合国教科文组织人工智能伦理政策的44页文件中，关于媒体框架的内容仅占四段。文件中几乎没有具体提及新闻业和新闻工作者，该政策更多地是一份价值观声明，并笼统地呼吁未来制定更全面的政策。这对媒体而言，可参考的内容并不多。
电气与电子工程师协会（IEEE）采取了类似的做法。其“符合伦理的设计”框架保障了记者在人工智能议题上向公众进行科普的自由，同时也维护了人类判断与监督的神圣性。然而，该政策同样只是对理想与价值观的宣示，而非一套用于应对新闻编辑部中人工智能困境的详尽指南。媒体应如何处理人工智能使用的披露问题？又该如何应对不当使用的情况？ 何为不当使用？所有这些不确定性都使新闻编辑室陷入混乱，让受众的信任悬而未决，但一套健全的政策可以为这片未知的领域提供一张路线图。
未来何去何从：伦理新闻AI政策的核心原则
出版商、编辑和记者迫切需要具体、全面且符合伦理的指导方针，以规范、说明并合理论证新闻编辑部中人工智能的应用场景。在制定严格且经过深思熟虑的人工智能政策时，新闻编辑部应以四项不可妥协的原则为指导：透明度、问责制、包容性和公平性。
以下是将这些原则应用于新闻编辑室中人工智能使用的起点：
- 透明度意味着应以清晰、诚实且显而易见的方式向读者披露人工智能的使用情况。无论记者是利用人工智能来挖掘新闻线索、开展调研还是制作视觉内容，受众都有权知晓。
- 问责制意味着 对人工智能生成的内容和研究中的错误明确责任归属。当人工智能的使用出现问题时，新闻机构应明确界定责任方——是人工智能程序的开发者？记者？还是算法本身？真正的问责制意味着承认错误并惩处责任方。因此，由谁负责以及如何处理该情况，应由新闻机构自行决定。
- 包容性意味着 要提高对人工智能工具偏见的认识并加以缓解。人工智能算法的训练数据在很大程度上决定了算法的输出结果，这意味着人工智能工具可能会放大其所处社会的偏见。新闻编辑部在使用人工智能时应始终将此纳入考量，相关政策也应制定策略来调查并最大限度地减少这种偏见。
- 公平意味着应 公正地执行本政策。新闻团队应严格遵守既定政策，并根据需要及时更新。政策执行应一视同仁，任何偏离政策的行为都应承担相应后果，并向受众明确披露违规情况。
算法偏见与“粉色肉泥”的威胁
如果缺乏伦理约束，部署的人工智能模型可能会加剧社会不平等，强化对边缘群体的刻板印象，同时强化用户既有的观念，并加剧社会两极分化。联合国教科文组织在关于人工智能生成刻板印象的研究中发现，大型语言模型将家庭角色分配给女性的比例远高于男性，同时还会生成针对同性恋群体和某些族裔群体的负面内容。斯坦福大学的研究人员发现，当被要求描述说非裔美国人英语的人时，AI模型延续了与民权运动前时代相关的极端种族主义刻板印象。 使用不可避免存在缺陷的人工智能系统所带来的偏见延续风险，可能渗透到翻译、数据分析、选题构思以及新闻编辑部委托这些工具处理的其他工作中。此外，旨在提供个性化内容（包括新闻）的人工智能推荐系统，可能会持续向读者展示其认同的内容，从而强化他们对世界的先入之见，并使其对能够拓宽视野的替代观点或信息闭门造车。
互联网上如山般庞大的AI内容也可能让读者感到困惑，并动摇他们对传统新闻媒体的信任。AI检测公司Pangram的研究发现，每天有6万篇由AI生成的新闻文章发布，其中以科技、美容和商业领域最为突出。 低质量新闻网站和不良行为者利用AI以近乎零成本持续批量生产海量低质量内容（俗称“粉色肉泥”），其目的在于攫取广告收入。这些内容农场混淆了新闻格局，这也使得值得信赖且专业的新闻网站制定并向读者公开严谨的AI政策变得愈发重要。
案例研究：哪些新闻机构正在引领潮流？
《纽约时报》、英国广播公司（BBC）和ProPublica等领先新闻机构，通过将人工监督置于政策核心，将主导权从算法手中收回并交还给值得信赖的编辑，成功地在创新与伦理之间取得了平衡。 以英国广播公司（BBC）为例，其规定要求员工在内容的创作、呈现和发布过程中明确说明人工智能的使用情况。其指南还倡导对人工智能工具产出中固有的偏见、幻觉和剽窃问题进行考量和监控。所有员工和自由撰稿人必须就人工智能的使用向高级编辑官员提交提案以获得批准。 BBC的指南还概述了AI的适当应用场景，包括在相关新闻报道中展示AI生成的内容，或对希望保持匿名的消息来源进行变声处理。ProPublica明确表示，在关键调查中利用AI筛选大型数据库，并识别模式以揭露其他系统中的偏见。《纽约时报》则明确表示，其利用AI辅助撰写标题和摘要、生成文章的音频版本以及分析数据。
实施：新闻编辑部如何贯彻职业道德
为了制定符合“专业记者协会”道德准则的、恰当且全面的人工智能指南，新闻机构应组建跨学科团队，汇聚技术与伦理方面的专业知识，以全面应对这个被人工智能颠覆的新世界。人工监督应始终是人工智能应用的核心。新闻报道中使用的人工智能生成的内容应持续接受准确性审核。
人工智能应当作为人类能力的补充，而非取代经过严谨调查、值得信赖的新闻报道。为了落实政策并确保合规，新闻机构应部署Pangram等核查工具，以发现未披露的及不恰当的人工智能生成内容。尽管人工智能工具能带来令人心动的效率，但它们无法像优秀的新闻机构那样恪守同样的公信力和道德准则。通过采用以透明度和问责制为基础的框架，新闻机构可以在不损害新闻媒体民主职能的前提下，有效利用人工智能工具。
在当今的人工智能时代，请确保您的出版物始终恪守最高诚信标准。立即验证您内容的真实性。
以获取我们的最新动态
