25新传考研真题速递！人工智能时代把关人的作用机制（ 暨南大学学硕707）

把关人理论起源于库尔特·卢因，他认为在信息传播过程中，传播者会对信息进行筛选和过滤。人工智能技术的崛起使得把关人的作用机制发生了显著变化。在人工智能时代，把关人作为一种信息筛选和传播的控制力量，其作用机制呈现出新的挑战。

一、新挑战：人工智能与把关的博弈

（一）把关角色泛化：从由人把关到非人和人机协作把关

“把关人”的概念在AIGC技术的发展下面临根本性的变革。在传统媒体的传播过程中，作为媒体中的“把关人”，专业编辑处于信息的第一环节，掌握着信息的发布和传播权，而人工智能时代则打破了这种局面。OpenAI推出了AI Text Classifier（AI文本检测器）用来检测文本内容是否由ChatGPT或其他AI模型生成，AI检测有望成为人工智能时代新的“把关人”角色。把关角色向机器的泛化，也标志着把关限制和规则也将更加复杂和模糊。过去专业的记者、编辑采取传统媒体的把关原则进行把关。而AI参与的把关行为由于训练数据的不平衡性，不同模型会呈现把关差异化，因此用作把关或协助把关的人工智能模型必须实现算法透明化和规范化，以保证公正性和客观性。

（二）把关规则重塑：算法规则与人类价值的融合

把关角色的多重化以及人类和AI算法所代表的价值和观念的偏差，使得把关标准较传统媒体时代有很大的变化。传统媒体编辑把关需要把握信息新闻价值和新闻要素，考虑政治、法律、社会文化和宗教等各方面因素。自媒体时代，多元的把关人角色在一定程度上弱化了政治、文化和宗教等传统因素的影响，而是把市场因素作为了主导因素。人工智能时代，则需要考虑训练数据的不平衡性导致的系统性偏见。人工智能的“观点霸权”，就是基于巨量偏见意见人群数据生成的畸形价值观对现实社会中的主流观念产生压迫和挤兑。因此要保证算法的理性和公正，就少不了人类价值偏好对其的引导和干预，从而保障其不断延伸、发展并朝着理性客观的完美算法形态进化。

（三）把关难度提升：巨量化信息要求智能把关的紧迫性

人工智能的加入也带来了把关难度的新挑战。一方面，人工智能和人工智能内容生产者等生产传播主体以及互联网的便捷性和共享性，构成了互联网内大量纷杂的信息源，也为虚假信息通过各种先进的传播渠道进行快速广泛的传播创造了条件。另一方面，大模型利用巨量的人类数据不断训练，逐渐产生出与人类语境和语言模式无穷接近的信息内容。这些内容本身并不携带人工智能生成的标签，因此仅靠储存或利用大量参考过去的数据来难以判人工智能生成信息的准确性。把关难度的提升也意味着把关活动需要更短的核查时间和更高的精准度。这就要求以人工智能为把关主体、以算法为技术内核、以人机互动为主要方式的新闻把关活动成为主流把关力量。

二、新策略：AI背景下把关的创新

（一）注意把关基础能力建设

面对AI大举进驻内容生产的发展趋势，基于人工智能技术的人机协作把关基础能力建设成为必然选择。继OpenAI推出对话型生成式预训练模型ChatGPT，国内多家公司加快AI模型研发进程，多方资本积极入局AIGC。百度在2023年3月底发布文心一言，阿里、腾讯也陆续发布自己的大模型产品。目前，国内大模型与国外发展仍然存在基础算力、技术逻辑和模型优化上的差距。技术的差距来源于国内目前的客观环境问题，如长期资金投入和研发环境等。把关基础能力建设少不了资金、人力、数据等资源的支持。此外要把把关应用到媒体中去，也需要媒体能够及时培养有关的人才。

（二）把关技术创新

人工智能生成内容要求把关人可以针对不同的技术特点，对信息的采集和编辑进行技术上的优化，利用数据库等技术做支撑进行把关活动。同时，由于媒介的多元形式，针对媒介性质、定位技术性地筛选把关内容，在把关活动中遵循媒介的受众对象、传播内容、传播水准和风格特色进行科学的、技术分析和内容把关。把关对象（AIGC信息）的技术性、智能性要求把关人可以利用相关的人工智能技术，进行模型毒性检测（为了防止偏向，自然语言处理领域使用“毒性检测”来识别和过滤文本数据中的毒性内容存在偏见、令人反感或对某些人群有害的语言和内容）、利用算法提供精准信息投放、挖掘数据价值，让渠道信息成为对受众来说科学的、有用的信息资源，高效地完成把关活动。

（三）把关角色监督

媒体外部环境及组织监督，是指国家政府或行业组织制定的法律法规及职业守则，应该具有强制性的约束力，或者是借助法律来规范把关活动。这种把关角色的监督不仅要出现在广播、电视、报纸等媒体上，更要贯穿于以AIGC为代表的内容生产中，实现生产全流程的把关，同时，必须实现算法设计、训练数据、判断标准的透明化以及人机协作把关的责任规范化。谁来监督、怎么监督、监督什么都需要明确把关规范细则。更重要的是，保证人工智能模型能在符合社会规范、隐私保护的基础上实现把关过程，也需要出台相关的技术规范和国家标准。

AIGC顺应了数字时代内容生产快速迭代、无限创意的新需求，技术驱动下内容生产进入高速量产2.0时代，人和机器都成了内容创作者，AIGC无限的生成能力让“把关”的革新发展提上日程。随着把关角色不断泛化、把关规则融合重塑、把关难度一再提升，打破技术黑箱、过滤AI“幻觉”内容、坚守主流价值成为人工智能时代把关人角色亟须解决的新问题，系统而科学地分析技术驱动下的把关创新，有利于媒体进一步改善采选编工作，争取更好的传播效果，为受众提供更优质、更权威、更高效的内容服务。

参考文献：张乐怡.AIGC视域下媒介“把关”的变革影响、风险挑战和应对策略[J].新闻论坛,2024,38(02):21-24.