必考的「算法」超详专题笔记来了！背完，随它怎么考！

/ 用心耕田 水到渠成 /

进入「冲刺」阶段，小田心按惯例推出我们的「高频考点专题笔记」。今年的专题笔记将加入更全、更新的知识内容，旨在为小伙伴们提供更好的阅读体验。「高频考点专题笔记」共12期，小田心将会以「专题笔记」的形式为大家免费分享其中4期高频考点。更多内容，大家可以关注我们即将上线的「高频考点专题笔记」完整版，也可以关注小田心针对各院校开设的课程哦～（课程详情请见文尾广告区）

今天，小田心就为大家带来第三篇笔记——算法专题。

本篇阅读提示：为了给大家提供更丰富的学习参考内容，且保证每个小版块的逻辑完整，本篇笔记的每个板块都呈现了较多的内容。因此，在具体内容阐述过程中，板块与板块之间可能有交叉或相通的地方，大家可以上下文结合起来学习，整理出自己的“万能答题模板”，不用对笔记全文进行死记硬背。

△核心知识思维导图

一、算法基本概念

田心说：此部分关于算法的基本概念需要同学们背诵哦~

算法可以理解为利用计算机（程序设计）来解决问题的方法，是一组定义严谨的运算程序规则。新闻传播领域的算法可以理解为信息自动处理方法。

二、算法相关概念

田心说：此部分需要重点记忆。

（一）算法推荐

算法推荐是指网站平台通过算法模型将用户信息数据与内容信息数据进行匹配，实现内容高效聚合、精准分发的一种手段，现已广泛运用在移动新闻客户端、即时通信工具、论坛社区、音视频、直播等各类网站平台。虽然不同网站平台采用的算法模型存在差异，但主要都是通过热度、时间线、用户画像、用户社交关系、关联内容、地理位置等多重维度进行拟合，实现个性化推送。随着算法推荐技术日益成熟，该方法可以有效地提高内容分发效率，增强用户黏性，使得内容生产者（包括传统媒体和自媒体账号等）高效实现商业变现。同时，自媒体的海量内容资源，丰富了网站平台稿池，给平台带来大量流量和广告。二者互相借势、共生壮大，满足了用户对原创内容数量、多样性、个性化的需求。

（二）算法黑箱

黑箱理论源于控制论，指不分析系统内部结构，仅从输入端和输出端分析系统规律的理论方法，这里的“黑箱”是一种隐喻，指的是“为人的不知的、那些既不能打开，又不能从外部直接观察其内部状态的系统”。而算法“黑箱”与理论上作为系统的“黑箱”又有所区别，算法“黑箱”本质上归属于技术“黑箱”，技术“黑箱”特指作为知识的人工制造品，“其特点是部分人知道，另一部分人不一定知道”。在这个意义上，算法“黑箱”指的是算法运行的某个阶段“所涉及的技术繁杂”且部分人“无法了解或得到解释”。

在人工智能时代下，算法被应用在人类生活的方方面面，而作为无可避免的弊端之一的算法黑箱亦是紧跟而来。例如在商业领域中，算法黑箱不透明与不可解释的特征必然导致开发使用者与消费者之间存在信息不对等；在个人征信情境下，算法黑箱所带来的歧视与偏见会操纵个人信用评分等等。有学者认为，算法黑箱的威胁贯穿于数据采集，算法运行以及应用于社会服务三个层级，在此三个层级中存在三重法律危机，即：数据采集阶段的个人信息数据侵权危机，算法计算运行阶段的结果偏见危机，算法应用于社会服务阶段的救济危机。

（三）算法偏见

算法的有效性建基于大量数据材料分析，而这些材料大多都源自社会现实，所以说，算法偏见是社会偏见的延伸，也是媒介偏见在人工智能时代的“升级版”，本质上是在新闻选题、新闻报道中所体现出的价值判断的不客观、不公正，它存在于算法设计和运行的每一个环节。事实上，这些算法都是人编写出来的，人们可以把所有的偏见与观点植入其中。换言之，计算机在运行算法时可能是不带有任何偏见的，但是，这并不意味着算法在编写过程中没有受到人类偏见的影响。

（四）算法新闻

1.基本概念

算法新闻是运用智能算法工具自动生产新闻并实现商业化运营的过程、方法或系统，它包括信息采集、储存、写作、编辑、展示、数据分析及营销等业务的自动化实现。

2.算法新闻的本质特征及基本规律

（1）算法新闻揭示了新一代新闻生产的本质

在传统新闻业务链中，人是主体。记者和编辑是把关人，依靠职业新闻工作者的感知洞察、经验判断和价值偏好选择特定信息，刊登适合的新闻。在算法新闻业务链中，机器人（算法）是主体，其本质是借助算法工具和大数据环境实现新闻传播业流程再造和盈利模式重构，催生了新一代“创新新闻学”：在生产环节运用算法工具自动生成新闻内容，在分发环节引入推荐算法，在销售环节实现了传者、受众和消费者的聚合，造就了流程更清晰、作业更高效、销售更精准、目标更明确、成本更低廉的业务链条。

（2）算法新闻揭示了新一代新闻生产的基本特征

与传统新闻生产及运营模式相比，算法新闻有算法软件的引领性、数据资源的基础性、智能操作的自主性三大特征。在大数据技术和算法软件的耦合作用下，算法新闻生产运作的高效性优势凸显，在时效性上实现了即时生产、实时发表，在数据分析上实现了准确化运作，在成本上实现了低成本乃至零成本的突破。概言之，在算法新闻的运作系统中，算法程序是核心、数据资源是基础、智能操作是关键。

（3）算法新闻揭示了新一代新闻的运作框架

算法新闻包括新闻生产和发行营销前后关联的两个框架。算法新闻以算法程序对整个新闻传播产业链进行重塑，构建全新的新闻传播业态。在新闻生产框架中以算法工具取代或部分取代记者及编辑劳动，实现自动化生产；在新闻发行框架中以智能推荐营销工具替代传统的物流分发流程，实现自动化发行与营销。

（五）算法社会

越来越多的人类事务被置于算法的影响与控制之下，个体层面的衣食住行、组织层面的管理调度、社会层面的生产分配，无一不在数字化转型的进程中被嵌入算法建构的技术环境。算法环境俨然成为与自然环境、社会环境具有同等意义的人类生产生活新空间，并可能推动人类社会进入算法社会的新阶段。算法社会可以被视为法国社会学家雅克-埃吕尔笔下“技术化社会”在当前的具体体现。沿袭技术化社会的理论建构，算法社会可被视为算法作为人类生产生活活动重要规则的社会形态。与数字化社会、智能化社会等概念强调数字技术提升社会运行效率的工具主义取向不同，算法社会更强调数字技术嵌入人类社会并与之相互影响而形成的新体系。与其他技术化社会不同，算法的独特属性使得算法社会的内在运行逻辑更为复杂、影响也更为深远。

（六）算法囚徒

随着算法技术逐渐渗透到社会整体的各个方面，与人们密切相关的算法远不止内容分发的个性化推荐算法，还包括各种平台的劳动管理算法、行业决策算法和社会治理算法等。日渐占据主导地位的算法行动者不断嵌入并重构原有的社会结构，重塑人们对世界的认知方式和思维模式。作为行动者的算法其权力在不断增加的同时，人与算法技术的关系进一步发展到“它异”阶段，算法技术拥有了一定的自主性，甚至能够转化场域中的其他人类行动者，使得他们的行为跟随算法的指引，其带来的结果便是人们深刻面临着在多个层面上成为算法宰制下的“囚徒”风险。

1.决策囚徒

今天，算法很多时候辅助人们在不同场景下进行决策，甚至直接替代人们做出至关重要的决策。人们在享受算法决策给自己带来各种便利的同时，如果一味地顺应自己的惰性，将所有决策权力统统让渡给算法，便很有可能陷入到算法的陷阱中，完全丧失主体性，被算法牢固地囚住。

2.劳动囚徒

平台算法通过相应数据和模型所构建的量化评价机制，将各种简单的流量数据作为衡量劳动成果的指标，会促进劳动者自我管理与激励，为了获得更好的评价结果进一步投入到更多的劳动中。算法通过简单明了的量化指标，并没有减轻劳动者的压力，反而进一步强化了劳动者的劳动强度。这表明算法对于劳动的介入并没有实现劳动者的解放，而是更加成为被算法深刻裹挟的“劳动囚徒”。

3.隐私囚徒

算法的运行以大量的数据作为基础，随着算法持续地在各个层面广泛应用，人的数据化程度也不断加深。这些数据除了主动提供的基础数据外，更多时候是被动提供，甚至是不愿意被搜集的隐私数据。当人们将自己的数据隐私让渡给平台之后，人们并不能完全拥有对自身数据的自主权，失去了对自身隐私和数据的控制权。

（七）算法疲劳

“疲劳”又称“倦怠”，这一术语最早出现在《英国医学杂志》上，在临床上被定义为“一种主观的、不愉快的疲劳感”。算法疲劳，描述的是一种基于算法的推荐类移动新媒体用户热情衰减、产生倦怠情甚至因此卸载退出的现象。个性化算法推荐导致阅读的“暴力”易使理性的用户对其内容失去信任甚至产生卸载行为。算法推荐类媒体的推送机制并非能够满足所有用户深层信息需求，信息供需失衡引发“算法焦虑”使部分用户开始逃离，以避免算法偏向性对用户信息获取能力和心理的抑制，及其对用户主体价值的绑架。种种现象表明，用户对于算法的热情和信任正逐渐回归理性。

（八）算法焦虑

算法技术的广泛应用，潜移默化的改变社会和人们的思维方式。伴随着算法技术在各类平台使用的增加，人们对算法技术如何被使用以及使用过程中对自身可能产生的影响越来越担忧。焦虑情绪出现在了人们在使用信息系统时与算法技术交互的过程中。

焦虑是人们对现在处境和未来事物产生担忧的情感反映，是人们由于紧张、不安、忧虑等感受交织而形成的一种复杂的情绪状态，是一切心理问题的核心和关键。有学者认为，“算法焦虑”是围绕着我们在多大程度上作为与算法技术相关的想象的、自我透明的主体而生活的担忧。算法焦虑不是一种多愁善感的主观性，也不是个人对算法病态性的感受。相反，它主要指自我在算法文化中的位置。它主要体现了用户质疑算法技术在用户看不见的地方对用户进行潜在的自我规范的影响。

（九）算法抵抗

“算法抵抗”这一概念被提出用以表征社交媒体用户对推荐算法的一种干预性数字能动实践。在无处不在而又“隐于无形”的算法面前，用户能够通过多种途径感知其带来的种种风险与负面体验，并在使用过程中主动采取行为加以规避，例如刻意点击不相干内容、不评论、不点赞等等。这些“不配合”算法的抵抗行为展现了用户在自我数据管理方面的主动角色，凸显其对算法运行规则的认知理解程度，标志着用户自主意识的觉醒。学者洪杰文、陈嵘伟将以算法为底层技术支撑的移动新媒体应用视为构成现代生活的“基础设施”与现代人的“日常生活平台”，将移动新媒体用户的算法抵抗视为“日常生活中的抵抗”。他们认为，用户从算法的执行后果出发，对其加以逆向追问以迫使其修正与改正，用户的抵抗战术非但不是针对算法的敌对力量，反而是具有治理意味的引导策略。

（十）算法素养

算法素养可以被理解为用户在日常接触社交媒体时感知、体验算法的能力，包括了用户对算法的基本认知、对算法的批判性意识以及他们与算法互动的基本能力三个主要方面。智能算法的出现，是技术发展的必然结果，它也在很大程度上解决了以往人力不能解决的一些问题。人们需要接受算法的存在，利用它来拓展自身的能力，享受它所带来的便利。但同时，人们也需要对这样一种技术带来的控制和其他风险有足够的认知与反抗能力。这些目标的达成，都需要算法素养的支撑，算法素养是智能素养的主要构成部分。算法素养的内涵包括算法意识、算法知识、算法技能、算法策略、算法思维、批判性意识、隐私意识、伦理问题、算法风险、感知公平、感知责任、算法透明度、算法可解释性、数据质量评价等多个方面。算法素养培养的核心目标是帮助人在算法面前化被动为主动。

有研究者将算法素养能力分为五个层面，包括算法技能层（面向算法应用的能力要求）、算法知识层（人对算法领域知识的掌握）、算法思维层（算法对个体思考方式带来的影响）、算法动机层（学习和使用算法的内在动力）和算法认知层（对算法及其衍生产品的看法、态度、观点的集合）。算法素养的形成，不只靠用户的自觉实践，也需要系统的算法知识教育或培训，基于这些教育，人们可以更加明确理解算法的运行原理，判断哪些生活场景中存在着算法，评估它们带来了什么影响。

Ps.智能素养

智能传播时代，面对新的人机关系，人们需要培养与之相适配的智能素养，这也是媒介素养的升级方向。智能素养包括算法素养、人机协同素养、人机交流素养、个人权利素养等不同方面。算法素养培养的核心目标是帮助人在算法面前化被动为主动。人机协同素养培养的核心目标是使人谋求机器的“增强”效应，抵抗机器削弱人的能力的风险。人机交流素养培养的关键，则是使人在与机器的交流中尊重“机器他者”，并获得准确的自我认知。智能传播应用相关的个人权利意识也是素养的一部分，其中尤为值得关注的是个人数据与个人生物识别信息的权益保护，以及相应的风险防范。

（十一）算法审计

算法审计的概念最早由国外学者Sandvig正式提出，受启发于一项针对谷歌平台上广告推送算法的偏见检测研究。算法审计是从伦理视角出发，测试机器算法是否存在盲点或偏见的操作流程，以确保算法是在按照预期执行，未产生歧视性、错误的或不合理的结果。审计人员通过向算法模型输入不同的测试数据，模拟演绎不同的运行场景，根据运行结果反推算法的内部决策逻辑，并推测算法的潜在外部影响。算法审计在兼顾各方主体权益的同时，能以更灵活的方式动态追踪不断迭代变化的算法，为伦理问题的检测开辟了全新思路。

（十二）算法想象

Bucher于2017年提出“算法想象”的概念，为算法研究提供了另一条思路。她将“算法想象”解释为：“人们想象、感知和体验算法的方式，以及这些想象所带来的可能性。”也就是说，用户可以通过互动和观察分辨出在线平台上算法的存在和它们的（部分）作用。在Bucher看来，过分强调“黑箱”隐喻是诱导研究者钻研算法机制而忽视普通人如何理解算法的烟雾弹。普通人会在特定的时刻强烈关注算法，如用户会在被算法精准推送内容时，产生失去隐私恐惧的算法想象，此想象进一步指导他们的媒介实践，如改变隐私设置或数字断联。目前来看，从算法想象解读算法规则以及平台与用户之间关系的研究路径主要有两个面向。一是聚焦关于算法“技术性”的想象，即平台的物质性设定，如与可见性相关的排名机制、点赞等按键设置。二是分析有关算法意义的知识，涉及用户有意识地对算法意义的解读、审核与反思，尤其是这些知识如何结合对于硬性规则的认知共同发挥生产性权力——作为行为准则而影响主体实践与制度生成。

（十三）算法八卦

Bishop（2019）提出了“算法八卦”的概念，将算法八卦定义为有抱负的内容生产者之间“社区性和社交性的信息，也是与算法有关的理论和策略，分享并且实施用以取得在依托算法的社交媒体平台上取得稳定的收入和可见性”。对比Bucher的算法想象，首先Bishop的算法八卦概念关注了知识生产的特定情境和群体，由此提供了平台与劳动者之间可见性政治如何在微观、隐秘层面发生的线索。其次，Bishop的算法八卦概念更具社会关怀，将算法与更广阔的社会研究做了勾连。由于八卦（gossip）的非正式性、口头流通方式，这种知识本身连同生产它们的主体一同被污名化和忽视，游离在主流叙事之外。但恰恰是在这些隐秘的交流中个体会形成应对结构的规范，体现了霸权的隐蔽性。对八卦的关注，其实是试图在以正式知识，比如国内诸多研究者关注的主流公开的书面知识之外，纳入那些边缘化的知识及群体。

（十四）算法民间理论

算法民间理论是与算法想象相关的另一个概念，它被定义为“个人发展的用于解释技术系统的结果、效果或后果的直观的、非正式的理论，这些理论指导对所述系统的反应和行为。”

与算法想象不同，算法民间理论进一步将用户对算法的体验和感受凝结成为非正式的理论以指导其日常与算法的互动。也就是说，用户会发展出自己的理论来解释这些算法是如何工作的，从而理解他们的算法体验。

（十五）算法知识生产

算法想象、算法八卦和算法民间理论都暗含了算法知识生产的线索。算法知识生产研究一般分为两个阵营：一是调查技术场所，如推荐系统和技术组织，他们研究算法是如何建构的，主要对掌握专业知识和技术知识的人进行访问；二是通过访谈和调查，研究用户与算法的日常互动。他们强调了如何在用户明显缺乏技术知识的情况下建构算法过程的功能理论。

（十六）算法文化

用户对算法的想象已经超越了对算法进行解构和对其在平台资本主义中角色的批判，转而回应了人机共同创建的算法文化及其对人类意义生成的影响。关于算法文化的定义，斯特瑞佛斯提出：“当人类逐渐把文化工作委托给计算过程，比如对人、地点、物体和思想的分类、分级与分层，这种转变导致类别文化的实践、体验和理解模式的显著改变。”这就是算法文化。我们可以从算法化自我、算法化连结、算法化媒介实践三个维度理解新型算法文化的“人机共建”特性。个性化推荐等算法技术帮助用户构建了“算法化自我”，TikTok的“For You”页面根据用户数据构建算法身份，算法成为用户共同讨论自闭症诊断并完善个人自我感觉的空间。算法也改变了人与人之间社会性连结的形态，一个基于小红书的研究发现，算法为有心理疾病经历的用户们编织了一个松散、去中心化和无边界的社群网络。此外，从媒介实践角度来看，算法也直接或间接地塑造了人机共建的新型媒介文化。

（十七）算法话语

2023年，若干学者将研究切口锁定为“算法话语”，即分析社会各界如何使用语言构建算法的意义，并试图借此洞察算法背后的意识形态。师文和陈昌凤将相关研究归入媒体话语、科技公司话语及规范话语三个范畴。其中，媒体话语主要从两个维度展开，第一个维度主要涉及作为社会公器的媒体对于社会技术想象的构建作用。第二个维度侧重于作为专业机构的媒体围绕本行业出现的竞争性AI技术所形成的元新闻话语。对于科技公司话语的分析具有较强的批判性，普遍认为公司使用策略的话语以维护自身利益。规范话语主要由政府和社会活动人士生产，有研究比较了欧盟、美国和中国对于面部识别技术的规范中体现的基本原则和价值观，发现了根植于义务论、利他主义和功利主义方面的差异。

一、算法接入新闻业的三个环节

田心说：此部分内容理解并记忆小标题即可~

（一）内容的自动化生产

算法接入到新闻的生产流程中，通过编写的代码和程序使得新闻的生产实现自动化。

（二）个性化的内容推荐

采用算法进行内容推荐的平台或App，可以识别用户的终端设备，读取用户的点击历史和阅读习惯，结合大数据用户画像和社交关系图谱，来匹配用户的关注兴趣和平台聚合的内容，向用户分发个性化的内容，以达到内容的精准传播。这一过程降低信息分发过程中的不确定性，细化投递颗粒度，最终带来了信息传播的“千人千面”。

（三）平台媒体的聚合分发

平台依靠算法筛选内容，定向发布，既为新闻媒体提供了大量的资源，提升传播效率，却又限制了媒体的编辑决策，攫取了大量广告收入。近年来最新的趋势是，社交媒体平台依靠先进的技术实力和庞大的用户群体进行的内容推荐已经开始重塑世界新闻业的版图，社交媒体的推荐算法对于传统媒体的内容导流效应明显，并且拿走了大量的数字广告；而一批工具类的应用也开始入场内容变现，其依靠场景化的内容推送可以强化用户黏性，完善用户画像，提升定向广告的变现能力。

二、算法赋能信息传播

田心说：此部分内容理解并记忆小标题即可~

（一）算法推荐赋能信息精准分发，提高信息分发接收率

算法推荐通过收集、筛选并整理用户在网络空间留下的数字痕迹（用户注册信息，用户阅读、搜索、浏览、评论记录等），能够精确勾勒出用户的兴趣和偏好图谱，形成精确的用户“个人画像”。利用该“个人画像”，智能媒体能够将契合用户兴趣和偏好的信息精准分发至目标人群。由于算法分发信息更能满足用户的个性化需求，用户自然更乐于接收此类信息，因此大大提升了信息分发接收率。

（二）算法推荐技术赋能信息实时反馈，引导用户的价值取向

以大数据和深度学习为底层逻辑的算法推荐能够根据用户对于信息的点击次数、停留时间、屏蔽/转发/评论内容等，动态实时掌握用户的价值倾向，进而通过精准分发信息逐渐引导用户价值观的变化。此外，分发信息的算法也可能被嵌入算法部署者或使用者的价值观念或主观意图，进而潜移默化地影响用户价值观。

三、算法接入新闻业出现的问题

田心说：这一部分内容需要重点把握，可用于回答“算法对新闻传播的影响”“算法对新闻行业影响”等题目，建议背诵小标题~

（一）算法将意义丰富的新闻“简单化”处理为信息

算法推荐将在线内容的供需问题进行了简单化处理，单向迎合用户偏好，偏重以“浏览记录”“热度”“兴趣”等维度来判断用户喜好，连续推送同质化内容。这种思路将新闻简单化、一律化为彼此没有差别的代码、符号或公式，讲究新闻多种要素在可量化方面的传播效率，比如阅读量、渗透率、日活等等，刻意地将信息去意识形态和去价值化，追求一种机械的平均和平等。

（二）个性化内容推送过程中存在算法黑箱

不同于人类决策，理论上嵌入算法中的计算理论总是可以被充分描述的，除非是有意结合随机性，否则都应该可以重复验证。但是现实的问题在于，一般情况下大型科技公司不会主动公开算法，而随着算法越来越复杂，从有监督计算到无监督计算，后期可能即便是程序员本身也无法了解机器对于数据到底做了什么，而这样的过程又可能是带有偏见、歧视、以及错误性信息的，因此，通过算法做出的判断和推荐，由于过程的不透明性，故而难以监督。

（三）算法虽然没有善恶，但是也绝非中立

算法依然是一种“人造物”，因此，在其过程中不可避免地会带上人为的痕迹。宣称算法没有价值观或者“绝对中立”，实际上忽视了算法本身的来源以及所处的社会环境。

（四）算法推荐高度依赖内容质量和版权规范

算法虽然可以协助人类发现规律进行决策，但算法高度依赖导入数据的结构性特征。在个性化内容推荐领域，如果整个传播生态系统中的内容质量不高，仅仅依靠算法是无法进行更高水平的内容生产的。而且当前的算法会更加放大和集中某些仅仅诉诸点击量、转发率的内容，造成内容市场上的“劣币驱逐良币”。此外，目前内容市场版权规范混乱，很多平台对于内容的聚合处于掠夺式状态，这从一定程度上限制了高质量内容的流动。

（五）精准推送会带来社交媒体操纵现象

一系列的调查与报道显示，脸书、谷歌、推特、YouTube、Tumblr等平台曾经被有组织地利用来散布虚假新闻，扰乱信息秩序，造成信息污染。根据相关调查报告显示，整个精确宣传的“工具箱”包括行为数据收集、数字广告平台推送、搜索引擎优化、社交媒体管理软件参与以及算法广告技术。这些技术可以被单独或者组合起来使用，目标是尽可能多地收集潜在受众的数据，在各种媒体渠道定制多样化的内容，在网络平台有针对性地投放广告，最终操纵用户的观念和行为。

四、加强对算法的规范管理

田心说：这一部分内容需要重点把握，建议背诵小标题~也请和“算法治理”部分结合起来学习。

（一）建立科学合理的算法推荐模型

按照价值观正确的总体要求，优化算法推荐权重配比，关注内容来源规范、文章评价评分、自媒体信用评级、用户反馈意见等质量类要素，辅以用户浏览历史、所在位置及文章阅读量、转发量、评论量等兴趣类要素。

（二）建立频道栏目分区分类管理机制

对于平台媒体一些头部栏目，如“推荐”“热点”“头条”“要闻”“新时代”等，默认开启重点频道分区管理制度，依次设置置顶区、要闻区、个性化区，置顶区和要闻区要按比例推送时政新闻；控制个性化区中刷新的自媒体内容、明星娱乐类内容占比；限制同质化内容的出现频度；对于用户感兴趣的话题，同时提供“不再推送此类内容”“减少推送此类内容”以及违法违规不良内容举报等功能选项。

（三）建立稿源分级分类规范机制

进一步规范时政新闻稿源，依照《网络安全法》和《互联网新闻信息服务管理规定》等法律和规范性文件进行内容聚合；完善自媒体账号认证和信用管理制度，根据信用评级将自媒体内容分类归入等级，保证优质的自媒体内容得到优先推荐，对于未认证和信用评价不达标的自媒体实施内容监控。

（四）完善重要内容人工审核机制

算法推荐的重要稿件必须实行人工审核，落实总编辑负责审核制；增加对弹窗、热点推荐等重要板块内容的审核频次，实现问题稿件快速召回、反馈信息快速回应、推荐模型快速修正；建立科学合理的算法推荐人工干预指标体系，多维度规范文章质量标签的衡量标准，降低文章阅读量、转发量、评论数、点赞数等热度阈值上人工复核的数量要求。

（五）健全平台技术监测预警机制

要求平台媒体需要加快升级内容监测技术系统，健全内容监测预警机制，强化对负面、有害信息的监测和识别能力，加强对行为主体和行为过程的监管，强化稿源、推荐规则、推荐举报的验证、核查和违规预警。

（六）建立优质正面内容激励机制

扶持优质稿源，尤其是时政类新闻，对提供优质稿源的媒体给予政策和资金上的支持；建立算法推荐激励机制，在重大事件报道中，利用算法推荐发挥积极作用；平台也可出台内部管理措施和办法，鼓励自身平台上生产原创优质稿源。

（七）完善平台推荐外部监督机制

国家和地方网信办负责监督平台媒体是否依照相关法律落实在线内容算法推荐治理机制，对违规从事新闻信息内容生产的网站和用户依法进行处理，平台用户也可以向网信办举报和提出各类违规问题。

（八）推动个人信息保护制度化

进一步细化和明确平台媒体对于用户身份信息、通讯信息、交易信息、行为信息等个人信息的收集使用保护规范。督促平台在收集使用用户信息时，遵循合法正当、最少必要的原则，公开收集使用规则，明示收集使用信息的目的、方式和范围，并且获得用户同意。严禁平台在使用算法推荐时滥用用户个人信息、侵犯用户隐私。

一、算法治理相关政策

田心说：此部分关于算法治理的相关政策需要同学们重点把握哦~

（一）“清朗·网络平台算法典型问题治理”专项行动

网信办、工信部等四部门近日印发关于开展“清朗·网络平台算法典型问题治理”专项行动的通知。通知要求，自即日起至2025年2月14日开展“清朗·网络平台算法典型问题治理”专项行动。专项行动的主要任务是：聚焦网民关切，重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题，督促企业深入对照自查整改，进一步提升算法安全能力。

（二）《关于加强互联网信息服务算法综合治理的指导意见》

2021年9月17日，国家网信办等九部委联合印发了《关于加强互联网信息服务算法综合治理的指导意见》（以下简称《指导意见》），这部旨在“管理好，使用好，发展好”网络算法应用的《指导意见》，是我国首个多部委联合针对算法监管与发展的法律性文件。《指导意见》所称的算法并非仅局限于网络内容推荐和自动化决策领域，包括电子商务、舆情安全、打击犯罪、技术创新、网络安全、数字孪生等多维度在内，都纳入算法监管范围。

在网络生态大背景下，以安全保障创新，以创新促进安全，形成了算法生态规范相互依托，互为表里的四大关键点：正确导向、公开透明、创新发展和防止滥用。算法的正确导向体现在价值观层面，主要分为正确的政治方向、舆论导向和价值取向三方面；算法的公开透明体现在个人信息保护与网民自我决定权层面；鼓励创新是算法规范发展的目标；防范算法滥用风险是算法经济的底线。

（三）《互联网信息服务算法推荐管理规定》

2022年3月1日，国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局4部门联合发布的《互联网信息服务算法推荐管理规定》（以下简称《规定》）即日起正式施行。《规定》明确，不得利用算法实施影响网络舆论、规避监督管理以及垄断和不正当竞争行为。

（四）《中华人民共和国电子商务法》

《中华人民共和国电子商务法》（2018年8月）首次明确了对网络交易平台日常运营中的算法规范，以及网络交易平台因不当部署、应用算法所应承担的法律责任。

（五）《中华人民共和国个人信息保护法》

《中华人民共和国个人信息保护法》（2021年8月）确立了我国算法自动化决策治理的基本框架，为平台自动化决策的设计部署、运行与结果输出划定了合法边界。

（六）《互联网信息服务深度合成管理规定》

《互联网信息服务深度合成管理规定》（2022年11月）是在我国加强互联网信息服务算法综合治理框架下展开的，该规定是我国开展算法治理工作的重要一环，标志着深度合成服务已成为我国算法治理中率先专门立法的算法服务类型。

二、算法治理的关键问题

田心说：这一部分建议在理解内容的基础上背诵小标题~

（一）算法“自动决策”机制的公开问题

近年来，算法造成的社会负面事件层出不穷，首要问题是算法自动决策中的“黑箱作业”。算法不透明使算法开发者和消费者之间的信息鸿沟被不断放大，加剧市场主体地位不平等。对于大多数接受算法推荐的用户来讲，其决策过程不易被理解，决策机制如密不透风的“黑匣子”，其发挥作用最终可能与设计初衷背道而驰。在治理算法过程中，通过立法推动建立公开透明的算法机制，成为各国治理算法的首要问题。

（二）算法“技术导向”的科技伦理问题

算法对于社会生活的广泛介入，带来技术与伦理的困境。营造一个以人为本、符合主流价值和可信赖的算法环境成为各国共同诉求。我国新近出台的《关于加强互联网信息服务算法综合治理的指导意见》中明确，“研判算法应用产生的意识形态、社会公平、道德伦理等安全风险，提出针对性应对措施”。智能化的算法超越了常规技术，产生类似于人的分析和决策，因此，算法科技伦理规范的意义在于找到人机协同的契合点，使得人机合作能够朝着人类追求的价值目标共同前进。

（三）算法“实现结果”的评估追责问题

为保证算法系统运行符合预期，算法实现的结果对公共利益不构成危害，各国都在着力探索事前评估、事中监管、事后追责的全链条监管方式。如事前设立算法备案和准入制度。针对使用算法的应用场景，在产品正式上线时，开发者应对算法预期后果进行提示，并对运行可能导致的结果承担相应责任。事前审查备案不能排除的风险，需要事中政府部门动态监测和算法提供部门主动上报有机结合。对于事后惩戒来说，美国等国出台了《算法问责法案》，规定了算法造成的损害结果的救济方式和相应的惩戒措施，最大程度维护利益受损者的权益。

三、算法治理建议

田心说：这一部分建议在理解内容的基础上背诵小标题~

（一）推进算法公开，统筹协调知识产权保护与用户权利保障

当前，我国算法规制仍处于起步阶段，推进算法公开要兼顾社会知情需要和开发者知识产权保护的需求，算法推荐服务提供者应以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。同时，公开范围不应涵盖全部算法内容的底层逻辑，以合理保护算法开发者的知识产权。针对算法使用，应当为用户提供便捷的“拒绝服务”选择方式，使算法开发者提供的信息既能有效保证推送效率，满足用户需求，又能保障用户选择的权利。

（二）完善分级分类管理，建立良好算法生态环境

根据算法推荐服务的内容类别、用户规模等对算法推荐服务提供者实施分类分级管理，以有序的分级分类管理，促进算法良好生态环境的形成。《互联网信息服务算法推荐管理规定（征求意见稿）》首次细化明确五类常用内容算法推荐方式：生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类。此外，特别提出具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估，完善页面版面生态管理，完善人工干预和用户自主选择机制，积极呈现符合主流价值导向的信息内容。

（三）加强技术监管能力，探索算法态势感知和动态监测

算法监管既要充分利用现有法律法规，也应积极适应算法智能化发展特点，利用大数据、智能化等技术优势，提升监管的效率和精准性，实现“以技术管技术”“以算法管算法”。既要建立算法人工审查制度，也要着重利用技术手段防范算法滥用的风险。大数据等技术快速发展为建立平台态势感知系统提供了便利，要有效利用大数据对算法平台实现态势感知，动态监测预警，并对算法平台进行安全测试和风险提示，避免系统性算法偏见对用户决策的影响。

（四）支持算法技术创新，提高我国算法核心竞争力

算法领域的创新成为人工智能领域的重要创新之一。在智能化时代，算力某种程度上是国家核心竞争力的体现，要积极支持算法技术创新，扶植行业优秀企业，提高我国算法的核心竞争力。

一、算法推荐的类型

田心说：此部分内容了解即可~

（一）基于行为的推荐算法

算法推荐早期实践是在电子商务平台。用户在线购物时，会在网页上同时浏览到基于其历史检索、浏览和购买等用户行为推荐的相关商品，以起到个性化的广告投放作用。这种推荐算法就是协同过滤算法，其本质是基于行为进行计算推荐，围绕着“用户”和“产品”展开。协同推荐算法后来又被应用于内容平台，YouTube和Netflix也开始使用算法进行内容推荐，只是在这一语境下，“产品”被替换成了“内容”。

协同推荐算法的优势：一是成长性良好，随着数据增多，计算会变得更加精准；二是个性化程度高，基于用户自身的历史数据不断进行反馈，推荐产品与用户高度相关、精准匹配；三是应用范围广，既可以用于物品推荐，还可以用于内容推荐。

协同推荐算法的不足：一是协同推荐算法高度依赖用户行为数据，头部平台优势巨大；二是协同推荐算法面向的是“历史”，新用户、新产品、新内容遭遇“冷启动”问题。

（二）基于内容的推荐算法

这一算法的实质是建立“画像”。对于用户，是要根据用户的兴趣爱好信息进行分类，学习用户兴趣模型，建立起用户画像；对于产品，则是要自动提取内容文本，形成产品特征画像，与用户的兴趣爱好标签相匹配。这种基于文本内容特征进行分类推荐的算法被广泛应用于新闻、资讯的分发过程中。

基于内容的推荐算法的优势：一是高效精准，无需预先累积用户历史数据；二是一定程度上解决了数据稀疏和冷启动问题；三是依据内容进行分类学习的算法发展较为成熟。

基于内容的推荐算法存在的问题：一是基于内容的推荐算法主要应用于文本特征提取，对于音频、视频等多媒体形式，自动提取内容特征存在一定困难。二是高度同质化的资讯引发学界对于信息茧房、主流价值缺乏导向、算法审查对用户知情权的控制、风格缺失、数据安全等诸多伦理风险问题的普遍忧虑。三是随着数据增多、用户偏好复杂化，特征提取会更加困难，精准程度可能下降。

（三）基于语义的推荐算法

基于语义的算法推荐不强调形式上的配对，而追求语义上的关联和情感的相似。

基于语义的推荐算法的优势：一是能够提供十分丰富的信息和多样化的推荐，避免传统算法信息高度同质化的弊端；二是语义网络不仅能够提取用户的行为，还能够通过语义和情感分析推断用户行为背后的动机，实现对用户行为的预测，挖掘用户潜在的需求。

当前，算法推荐实践中趋向于将语义分析与行为研究相结合，以期有效解决推荐系统中新用户、冷启动等一系列既有问题。但随着技术的不断发展，系统算力的损耗、算法冗余问题，也将成为下一阶段基于语义和知识图谱的推荐算法所要面临的挑战。

二、算法推荐下的媒介伦理失范

田心说：这一部分也是出题方向之一，需要同学们重点把握，建议在理解内容的基础上背诵小标题~

（一）算法推荐下的媒介伦理失范表现

1.信息真实性认知偏差

在算法推荐中，哪些新闻内容能够进入传播渠道、用户阅读什么样的内容，都由算法说了算，以单篇文章为单位带来的点击率来评判文章的价值，而忽略文章本身带来的社会效果。对于平台媒体来说，新闻内容带来的流量比质量更重要。在这种信息传播模式下，用户接受到的信息越来越同质化、窄化，沉浸在自己构建的拟态环境中，对真实性的认知偏差越来越大。

（1）后真相新闻

伴随着移动互联网的发展以及算法推荐的应用，有些网络媒体或自媒体为了吸引受众注意力，迎合受众情绪、提升点击率，刻意营造出一种重共鸣轻真相、重情绪短记忆、介于真相与谎言之间背离客观公正的第三种现实，即后真相。

（2）新闻泛娱乐化

新闻的泛娱乐化是对媒介娱乐功能的过度使用。算法推荐机制下给用户过度推送娱乐化新闻，从资本的角度来看能满足受众的娱乐需求，提高收视率，增强用户粘性，带来巨大的经济利益。但是将娱乐变得社会化，会使受众缺乏思考，对公共事务漠不关心，大众在新闻狂欢中陷入恶俗、低俗、庸俗，沉浸在一种虚假的满足中，“围观”公共事件，缺乏社会责任，成为缺乏思考能力单向度的人。

2.价值观异化

算法技术本身是中立的，但是利用技术来做什么却是一种价值的体现。在以用户兴趣爱好为唯一价值标准的情况下，媒体舆论引导功能缺位，忽略个体的社会存在性，呈现出以自我为中心的较少或者不考虑其是否符合道德伦理准则，或者正确的社会价值导向道德相对主义。算法推荐机制将不同价值观的内容通过机器分发给不同用户，缺乏对事物理性的思考和主流价值的引导，传统媒体建构的主流价值观、坚守的新闻理想被算法推荐消解。

3.公共性缺位

算法平台将用户视为消费者，其基本指标和价值逻辑倾向于资讯信息的覆盖、频次、匹配、停留、转发等利于广告价值和价格计算的要素，媒体缺乏动力和必要性去考虑这些资讯信息是否会显著增加社会与公共利益价值。在这个过程中，聚合平台注重的是信息能带来的流量而非内容，注重的是商业利益而忽略新闻的公共性。

4.算法歧视与偏见

人工智能是我们已有文化的延伸，算法不可避免地要体现操纵者与设计者的思维逻辑和价值取向。算法虽然是中立的，但其计算过程却包含了很多人为因素，很多算法问题是由数字媒体的经济与商业模式决定的。个性化推荐阅读为读者营造了一个拟真的超真实空间，用户在算法推荐和集群式传播中强化自身观点，异质化的多元的信息被过滤泡阻隔在读者的推荐页之外，人们的视野变得单一、狭隘，加上算法技术的不透明、不准确，用户甚至很难发现内容中的歧视和不公，现有的社会不平等和偏见正在以不可预知的方式得到强化。从这个角度来看，个性化推荐下的过滤泡强化了既有阶层偏见。

（二）算法推荐下媒介伦理失范的原因

1.技术理性与价值理性之间的失衡

理性行为包括价值理性行为和工具理性行为。霍克海默、阿多诺、马尔库塞等继承了理性行为理论，在20世纪40年代之后发展形成了法兰克福学派工具理性批判理论。霍克海默认为，科学技术的发展成了统治人和控制人的技术理性，科学技术本身成为了一种新的意识形态。

工具理性能够促进人类现代性的发展，但过度的推崇工具理性会导致技术手段成为目的，最终陷入到“技术牢笼”当中。媒介技术的不断进步以及市场化发展需求赋予算法以权威合法性，很多算法被贴上“中立”“客观”“公正”的标签，构建出自身合法性的神话，将用户的一切社会行为量化，用户很容易被算法控制，不再是传播主体，而沦为技术的客体。

2.算法多样性与精准性的矛盾

算法给受众推送的信息越多样，受众就能通过推荐系统获得更多有益的信息，但个性化过程中的精准度就会降低，推送的信息有效率会下降。这是一个两难问题，很多时候只能通过牺牲多样性来提高精确性。由于多样性缺乏适用的量化指标，目前大多数媒体的算法推荐是精确的信息匹配，其逻辑价值是将信息内容最大化传播，以便获取流量，或者是基于内容的精准营销和传播以便获得更多的用户黏性。信息的精准度虽然相对较高，但打破了用户信息接受的多样性平衡性，导致异质性信息流动性的减弱，没有发现用户真正需要的“长尾”、有思想深度但小众的信息。

3.注意力经济与公共责任之间的矛盾

算法设计程序的背后，是一套试图增加用户粘性和提高点击量谋利的商业逻辑。这种新闻事业的公共性与点击量间的失衡会导致用户身处信息茧房中，缺乏对公共事物的关注。

（三）算法新闻下媒介伦理的重构

田心说：本部分可结合“算法治理”部分进行学习~如形成一个“万能解答模板”，答题时能根据题干合理变换“模板”即可~

1.健全法律监管

现在法律是对平台媒体伦理失范行为的事后惩戒，缺乏对算法技术本身的规范。因此，政府还需制定相关法规对算法技术的应用进行监管。通过相关法律条例的约束，明确算法技术的使用范围及标准，形成健全合理的平台问责机制，通过明确可量化的问责标准要求企业平台在新闻推送过程中承担社会责任，引导正确舆论导向，尊重社会伦理。同时，也应成立一个公开的监督平台，鼓励网民群体对平台推荐的内容进行监督，形成一个立体动态长期的监管系统。

2.强化“人”在传播中的主体性

算法技术只根据内容的相似程度或者点击量向用户推送新闻，缺乏对内容的质量的把控，造成了一系列伦理失范问题。因此要充分发挥新闻媒体工作者的主体作用，加强传统把关人对内容质量的审查和甄别，建立人机结合的内容审查机制，通过编辑辅助算法技术实现新闻价值的回归。

3.建立多指标推荐系统

对于算法推荐中易导致单一化推送问题，可以通过建立一个多指标推荐系统来减少“信息茧房”。目前推荐系统的主要推送指标包括用户的社交关系、基本信息以及浏览记录，因此在推荐系统的算法模型中可以加入用户满意度、内容影响力、专业品质、时效性等指标，向用户呈现经过重新加权的复杂结果，推送的结果可能帮助用户发掘更多有价值的信息，走出“信息茧房”的困境。同时，对于用户画像的分析时要减少低俗、过度娱乐化的画像，突出用户的正面兴趣点，给予用户正确的价值引导。

4.提升算法透明性

算法推荐具有隐蔽性，运行起来如“黑箱”。媒体机构有责任提高其透明性，将尽可能多的数据原理提供给用户，以增强公众对算法机制的了解与监督。但算法是一种商业利益，拥有大量的商业机密，如果让社会公开审查这个算法的话，将会损坏企业的商业利益。所以需要有一个不损害其商业利益同时起到监管功能的部门，例如成立一个“算法审查委员会”。这个算法监督委员会可以由政府、相关学者、企业代表、行业代表共同组成。政府、学者等代表用户、代表新闻业，从法律的角度和新闻专业的角度对算法实施监管。

三、算法推荐与信息茧房

田心说：算法推荐与信息茧房的关系也很重要哦，这部分内容较多，建议在理解的基础上记忆小标题，能够简单复述即可~

（一）算法不是“信息茧房”形成的必要条件

1.“信息茧房”本质是用户选择机制中的一种“偏食”行为

霍夫兰很早就在个体差异论中指出，由于个体在需求、信念、价值观、态度上的认知结构差异，相同的大众传播内容在受众之间会产生不同的效果，受众倾向于接触与原有态度较为一致的信息，而尽量回避那些与己见不合的信息，即所谓信息的选择性注意和理解。这种“偏食”行为是个体在与社会互动中形成，并存在于传播的各个阶段。算法则基于个体兴趣爱好，进一步扩散用户自由，用主动推送的方式将用户认为有价值的人或事呈现在眼前（耳边）。说到底，以个体兴趣为核心的“信息茧房”归根还是用户自我信息选择的结果，算法与数据技术也不过是媒介的价值选择机制在数据条件之下的一种“人体的延伸”。

2.用户在媒介接触和使用的渠道偏好与选择窄化是“信息茧房”形成的前提

“信息茧房”另一个前提假定是个体始终接触同质化的传播内容与渠道，这种用户媒介接触的窄化现象同样不是算法环境所“独享”，可能是因为所处的传播环境，而被动地接受选择。比如，在封闭的山村中，村民对于事物的认知多来源于代际间口口相传，也容易将一些神话传说当作事实。

3.媒介体制的某些特征同样会导致“信息茧房”

媒介的所有制和经营机制，以及关于媒介法律与管理制度，也是形成“信息茧房”不可忽略的影响因素。例如纯粹商业逻辑的媒介运作也会在一定程度上误导用户视听。

（二）算法推荐在“信息茧房”生成后并不起增效作用

从算法当前的技术特征与用户行为复杂性来看，算法对已经存在的“信息茧房”也不起稳定或增强作用。

1.智能算法推荐与媒体型分发、社交-关系传播共同构成用户获取信息的来源

信息分发市场经历了从人工编辑主导的媒体型分发、依托社交网络传播的关系型分发到智能算法对信息和人进行匹配的算法型分发主导的时代。目前，即使算法完全“掌握”了个体兴趣，却无法完全替代另外两种信息分发模式。

2.对于用户潜在信息需求的不断挖掘是算法推荐在发展中不断升级迭代的技术成长点

当下，算法所推送的信息往往是粗颗粒的、未必匹配实时场景切换的。这其中，情绪识别是当前算法的技术难点之一，尤其是通过静态图片或文字特征难以断定文本要表达的情感方向和程度。这就导致算法推荐通过数据知晓用户对某明星感兴趣，但很难鉴别你到底是“真爱粉”还是“黑粉”，于是不管你喜欢与否，系统会将吹捧和谩骂的内容一并推送给用户。从这个层面上来说，算法把用户感兴趣的主题内容全部予以推荐，里面包含了互相矛盾和对立冲突的信息和观点，实际上反而削弱了“信息茧房”形成的可能性。

3.个体的信息决策受到除技术外多种因素的影响

在没有其他变量干扰下，算法型产品确实非常容易形成用户黏性并影响用户行为。但是，个体行为又往往受到了诸多外在环境变量的影响，如个体本身的人口特征偏向、现实生活的环境差异、社会群体压力以及用户能否指导自身实践等等。

（三）算法推荐正在对“信息茧房”的消解发挥重要作用

1.算法本质上是传播权力向多数人的让渡

在传统的新闻生产中，传播的主导权掌握在新闻媒体手中。现在，基于大数据与人工智能的推荐算法系统的引入，对传媒领域来讲，实质上是一种传统的寡头权力逐步让位于技术逻辑主导的用户权力的过程。

算法根据用户的需求与个性推送新闻，使用户自身在一定程度上成为自己的议程设置者，打破了媒体对传播主导权的垄断。同时，不同用户的需求与个性是各不相同的，经由算法推送的新闻经过用户的分享，使得多种声音同时存在，颠覆了少数者的话语霸权。概言之，算法实际上释放了用户的自主意识，提升了公众参与表达的能力。

2.算法的若干技术特性有助于解决越推越窄的问题

算法推荐有几种主流技术类型，一是基于内容的推荐、二是协同推荐算法、三是基于语义的推荐算法。虽然基于内容的推荐算法可能会“窄化”用户选择，但协同过滤算法则是根据跟你相似的其他人喜欢什么来进行推荐，因此用户可能接触到自己都想不到的多样内容。目前，融合多种算法、关联更大数据的组合推荐系统得到发展与完善。

3.可信任的算法推动了用户与内容的友好会话

算法技术本身并无“原罪”可言，可信任的算法技术是人文理性与技术理性相交融的产物。实际上，在意识到“信息茧房”存在的影响后，主流媒体机构、互联网公司等都通过诸多尝试优化内容的分发规则，建立可信任算法的伦理框架。

一是坚持人机协同，在算法技术应用基础之上重视人工编辑的作用；二是注重公共议题的新闻专业主义，例如在媒介融合的实践中，今日头条、百度百家号等将时政新闻板块交由主流媒体“打理”；三是在“随机”设计中注入人性关怀。

四、算法推荐的发展趋势

田心说：此部分内容了解即可，重点记忆小标题~

（一）技术层面：从提取用户行为到洞察用户动机

随着算法推荐系统的不断完善，深度学习、知识图谱等技术的发展，推荐算法的运行逻辑从“分类”走向“推理”，从提取用户行为转为洞察用户行为背后的动机、意义和目的。

（二）传播层面：算法成为新的“把关人”

算法推荐的出现改写了新闻业的生态，在“千人千面”的新闻聚合平台中，对于受众需求的精准把握成为人力所不能至，机器代替人工编辑成为新的“把关人”。算法通过自动化的内容分析决定了选择什么信息作为热门、将信息分发给哪些人群，信息分发的权利从内容编辑让渡到了算法——更准确地说是算法的开发、利用者手中。

（三）受众层面：算法推荐效率、个性化和精准度有所提升，但信息失衡引发反思

对于受众而言，算法推荐基于网络行为、兴趣爱好等个人数据进行信息分发、广告投放，带来了更加个性化的用户体验。随着技术的升级和算法的完善，混合算法和知识图谱等技术使得推荐进度进一步提升。然而，高度同质化的信息也带来了信息失衡问题，信息茧房、算法隐形歧视等社会问题逐渐暴露。尤其是在社交媒体的合力下，情绪化的、煽动性的信息经过不断传播，还可能引发群体极化，造成社会管理风险。

一、产生算法偏见的重要环节

田心说：此部分内容了解即可~

（一）运算规则设计中的算法偏见

通过大数据分析来研究受众的阅读偏好或者搜寻热点新闻的传播情况时，就需要编写一定的算法，在这个过程中就要预设一定的“标准”来对信息类型或受众偏好进行归类。从拟解决问题的定义到运算模型的选择，算法设计者的个人主观色彩，包括个人偏见，也在不断融入算法的生产过程。

（二）数据收集、处理及运用中所隐含的偏见

数据从来都不可能是原始存在的，而是依照一个人的倾向和价值观念而被建构出来的。我们最初定下的采集数据的办法已经决定了数据将以何种面貌呈现出来。数据分析的结果貌似客观公正，但其实如同所有新闻报道一样，价值选择早已贯穿了从构建到解读的全过程。最终的结果看起来很无私，但实际上从构建到演绎的整个过程一直伴随着价值选择。

（三）运算过程中的算法偏见

算法的运行是按照既定的程序输入数据，依据计算法则对数据进行解读，最后输出运算的结果。从表面上看，算法的运行过程不太可能产生偏见，但事实上并非如此。高效、精准的信息推送靠的是算法推荐系统对用户需求和兴趣的认知来实现的，而这里的“认知”则是指推荐系统的智能处理和深度学习能力。深度学习就是通过“学习”大体量的用户行为数据，来把握数据特征以及数据特征之间的关系，进而建立数据模型，实现优质推荐。算法系统进行深度学习的开端是严格按照事先设定的原则来运行，而且数据的筛选、供给是由人工实施的，如果用于训练的数据存在某种倾向性的话，经过一段时间的学习，所形成的算法推荐模型也就会产生偏见。

二、算法偏见对新闻信息传播的影响

田心说：这一部分需要在理解的基础上背诵小标题~

（一）背离了公平公正的新闻职业规范

从新闻职业伦理的角度看，公平公正历来是新闻媒体标榜的旗帜，算法偏见作为一种预设的态度，将错误或偏颇的判断融入新闻传播活动中，违背了新闻职业规范。

（二）挑战了用户知情权和信息选择权

算法在社交媒体中的运用使用户接收到的内容是被社交平台筛选过的，一定程度上替用户进行了信息选择，消解了用户的消息选择权。有取必有舍，选择意味着放弃。优先推荐依据所隐含的价值偏向过滤掉了与用户偏好无关的信息，突出了用户“欲知”诉求，忽视了“应知”诉求，损害了用户的知情权和信息选择权，消减了用户的人文价值判断和社会责任意识。

（三）易于解构社会共识，引发舆论风险

在技术不断迭代更新的环境里，智能算法与社交媒体的结合突破了主流媒体对传播渠道的垄断，体现了强烈的个性化和利益相关性，削弱了传播的公共性，影响了主流价值观的构建。尤其是在“算法神话”的遮蔽下，非理性的、偏见的、煽动性的信息传播打着“个性化”的旗号，解构了主流的社会共识，埋下了引发公共舆论的潜在风险。

三、新闻传播中算法偏见的应对策略

田心说：这一部分需要在理解的基础上背诵小标题~

（一）从法律法规层面规约算法设计者和使用者

算法设计者对自己设计的算法负有直接责任，对因算法设计问题所造成的歧视、偏见等有损使用者的结果理应承担一定的责任与义务。算法设计者应积极承担数据可查义务、解释性义务以及恶意操纵责任，算法使用者（尤其是将算法用于商业运行的公司）也同样承担着因算法问题给算法服务对象造成损害的责任。

（二）以“技术之力”消除“技术风险”

技术的发展遵循着一种循环逻辑：为解决问题采用了新技术，新技术引发了新问题，然后采用更新的技术去解决问题。

首先，将两类机器学习适度结合。机器学习算法主要分为两大类，即监督学习和无监督学习。目前，大多数算法训练采用的是监督学习，所使用的数据来源于算法设计者选择的标签数据，而算法系统不会质疑这些数据是否存在偏见或歧视，它只是按照既定原则去探寻输入输出的关系，由于这一过程中掺杂了人的活动，难以保证数据做到完全的客观公正。相对而言，无监督训练使用的是没有任何标签的数据，在不给任何额外提示的情况下，算法系统自己对数据实现分类、识别和汇集，在这个过程中，没有人工的参与，有助于消减那些有意识或者无意识的人为偏见，避免干扰训练数据的客观公正性和算法模型的最终产生。因此，可以考虑在算法系统在生成到优化的不同阶段，把两种机器学习方式结合起来。

其次，将公正公平原则嵌入机器学习。从技术层面或者说在机器学习过程中嵌入“机会平等”概念和技术公平原则，在人工智能日渐代替人类做出抉择的时代显得非常重要。国外已经有研究团队依据约翰·罗尔斯的公平技术定义及其“机会公平平等”理论，引入了“歧视指数”的概念，提出了设计“公平”算法的构想。

最后，提高算法透明度。算法的透明度不仅牵涉新闻生产流程的“客观性”“公平公正”，而且关联着公众对新闻媒体及其产品的信任。技术只有透明才能获益。每一种技术都能通过以下这三个准则得到改善：用户对技术的了解应当和技术的创造者一样多；技术信息应该随技术一起传播；其他技术也应该了解它的一切。

（三）建立第三方审核机构，强化行业自律

由于算法有着较强的专业性和复杂性，一般用户很难对算法设计者和使用者实现有效监督，较为可行的方式是建立由科研单位、非营利组织等多主体构成的第三方审核机构，制定完整的运行机制，对涉及面广、影响深远和存有争议的算法进行审查和评估，并借助互联网行业的自净功能来保证算法的客观性和公正性。

（四）构建公平公正的算法价值观

因为算法是在做信息的生产与传播，它在属性上就烙下了“媒体”的印痕，它就必须承担社会责任。算法的追求不仅仅是效率和流量，更在于为社会确立、维护正确的价值观。对算法的设计者、运营者、使用者以及用户而言，可以考虑把“算法价值观”纳入专业技能培养和通识教育体系中，帮助大家认清算法运行的基本原理和局限性。

一、算法系统对个体的规训塑造

田心说：这一部分建议在理解内容的基础上背诵小标题~

算法作为一种嵌入的、通常是不可见的技术基础设施，不仅改造着整个生产、分配、交换与消费环节，而且在微观领域对个体的社会生活有着较为明显的规训。

（一）重组社会个体生活

数据驱动的算法系统已经渗透到了经济、政府和文化部门，并将各类社会个体内化吸纳到算法平台的生态之中，并逐渐转变为混合形式的平台社会。在个体的日常生活中，算法扮演着核心角色。个体不但被算法中介，还由算法来决策，更重要的是算法所呈现的高度个性化的内容，正在以中介形式将人们呈现给自己。

（二）量化指标体系的规范

算法技术，包含对数据的组织、控制、计算等一系列操作，其中每一个环节都离不开量化的指标体系。在这些碎片化和具体的实践、技术和机制中可以总结出一套完整的权力机制——规训权力。从人与算法的关系上来说，量化的指标体系是平台各行动者获得可见性、拓展关系以及通过劳动获得资本的指南；但同时量化指标体系是对个体的约束、引导和惩罚的机制，还是将平台参与者组织为有效生产力的重要力量。

（三）算法培养了个体惯习和依赖

在平台中，人们的惯习与算法技术也存在着相互规训的关系。一方面，当进入算法社会，既有的惯习会影响着个体在算法平台的兴趣偏好、群体认同、消费倾向等行为实践。因惯习的差异，导致人们在算法社会形成不同的区隔和文化分层。其中，趣缘群体和粉丝圈层就是其中的外在表征之一。另一方面，人的惯习具有能动性和生产性，它可以被新的客观环境即场域所重新塑造。个体的既有惯习所产生的行为实践，如点击、分享、阅读、搜索、购买等均被采集为数据，并建立数据库。通过动态的数据库与静态的个体人口学统计数据，算法在对个体进行画像的过程中，依靠算法自动分析并预测和推荐新的内容和消费产品。

二、算法系统中的监视与中介协调

田心说：这一部分建议在理解内容的基础上背诵小标题~

在对个体进行规训之外，算法系统还通过超视距监视、技术调节和时间控制等战略来实现对人的治理。

（一）算法系统的全景监视与治理

数字社会因将个人从时间和地点的限制中解放出来而被称赞，但也被批评为将人重新引入了一种数据提取的监控资本主义。身处其中的人们，工作空间和休闲空间的边界日益模糊，其生活、工作、消费、娱乐，甚至是内心世界，已经变得数字化和算法化。算法系统，实施监控的目标是将现实总体化为数据显示，始终可访问、始终可知且可变，并通过大数据预测和影响人类行为以产生收入和市场的控制。

（二）算法系统的中介协调

人们在算法平台中活动都需要由算法来中介协调，无论是需求、偏好、兴趣，还是消费检索，都离不开算法的运算。尤其在零工经济平台中，通过算法中介方式管理和控制工作关系，包括分配任务和监控各方之间的交流、任务的执行等。

三、算法推荐中人的自主性维度

田心说：这一部分建议在理解内容的基础上背诵小标题~

在人与算法的关系中，人们应该享有自主权，即人们在算法平台中有对其各方面活动或工作进行自主控制的自由。然而算法的“黑匣子”式自动计算以及无处不在的监控，降低了人们的自主性。对此，研究者提出了“算法主动主义”来抵消算法的控制。

（一）充分利用算法的工具性

我们需要基于算法的可供性充分利用平台的算法，发挥其工具性特征。对于算法设计者来说，需要走向以人为本的设计理念，发挥算法在社会各领域的积极作用。对于平台使用者尤其是内容平台的创作者来说，算法是一个赋能工具。创作者可以利用这一工具属性，实现在内容平台中工作的再技能化，发展出新的经济资本、文化资本和象征资本。从工具性的维度上来说，自主性就体现为对平台算法情境的掌握，鼓励算法参与者合理设计与利用算法。

（二）培养亲密感扩展社交关系

自主性的亲密维度强调了在算法实践中个人的人格、情感和社会关系等层面，即通过平台的算法与其他参与行动者建立亲密关系、获得情感支持、寻求归属感以及拓展社交关系等。自主性的亲密感维度，打破了日常生活中算法作为冷冰冰的技术程序和控制机器的认知，解释了算法也会产生和增强亲密关系，为个体创造“倾听”的“安全空间”。

（三）通过自我调适和抵抗获得自主性

一方面，平台使用者的评判性算法素养在提升，能够从价值、监视、话语修辞等角度了解算法功能以及这些功能对日常生活的影响；另一方面，平台使用者算法意识不断提高，逐渐认识到算法系统现在作为数字基础设施的一部分在社会各领域发挥着普遍的作用，深入了解其运作流程及算法决策强制执行的潜在破坏性；此外，平台用户在使用过程中并不总是算法被动的观察者和控制对象，他们越来越认识到自己在塑造算法运作中所扮演的角色，即算法提升或降级的价值是由算法与用户之间复杂的相互作用形成的。平台用户在算法规训和控制过程中的觉醒，促使他们开始以政治、商业或娱乐的方式对算法进行调试、干预和抵制。

一、主流媒体算法构建的必要性

田心说：这一部分建议在理解内容的基础上背诵小标题~

（一）算法推荐存在非中立性

算法从设计开始就必然内嵌着价值观，存在着价值负荷，并且具有正向价值和负向价值双重属性。究其根本，算法推荐看似中立的技术表征下，有着强烈的价值驾驭空间，算法涉及的数据沉淀、用户研究、使用策略等都有鲜明的价值导向和意识形态属性，在这个意义上，算法推荐本质是价值驱动下的算法技术。什么样的价值来“驾驭”算法，决定了算法对用户的影响程度，故有必要以主流价值观驾驭算法。

（二）技术和资本裹挟下的算法推荐带来社会价值观混乱

技术和资本裹挟下的算法推荐，在促进新兴业态繁荣的同时，也在不同层面和程度上带来社会价值观的混乱，低级趣味、历史虚无主义等不被倡导的价值观通过算法被强化和放大，成为影响主流价值传播的重要因素。野蛮生长后的商业技术平台，也必然受到规范的约束和有力的管控。

（三）主流价值重新定义算法

时代场域下，算法技术的发展应朝着符合大多数人利益的方向，唯有在价值认同框架下重聚社会主义意识形态价值引领的传播主体，才能有效传播社会主义意识形态，我们应正确认识并主动为算法赋予主流价值，在算法生产的各环节和全过程进行价值引领，实现主流价值对算法的驾驭，让社会主流价值在新技术条件和媒介生态下有序传递。

（四）主流媒体算法体现社会责任，广受认同

在新型主流媒体建设征程中，主流媒体算法的实践并不鲜见，人民日报客户端2019年9月的7.0版，在全国率先推出了主流算法。央视频倡导的“总台算法”，也在央视频平台“影视”板块上线，将宣传导向、艺术价值和商业价值有机结合，根据用户兴趣喜好，在短视频、长视频、移动直播中实现多业务混合推荐，为用户提供良好收视体验。从中央媒体到地方媒体，主流媒体纷纷驾驭“算法”的背后，是其传播、维护主流价值观的社会责任。

二、主流媒体算法的定位

田心说：这一部分内容了解即可~

（一）具有鲜明的党媒属性

实践证明，在错综复杂的舆论格局中，“政治家办报”理念在互联网时代仍然有强大的生命力，有着党媒基因的主流媒体算法，价值归属和价值导向显而易见。

（二）助推主流内容生产、传播提档升级

近年来，以人民日报、新华社等为代表的主流媒体更新叙事语态，创新话语表达，产品形态不断推陈出新，获得了极大的群体价值认同。主流媒体所代表的主流价值在移动互联时代具有被认同被推崇的魅力，主旋律可以高颜值、年轻态，主流媒体传播力、引导力、影响力、公信力进一步巩固提升。

（三）激活优质存量内容，为主流扩容

主流媒体算法可以让内容更加主流，通过对全网热点内容数据进行挖掘，对新闻内容进行分类标识，建立主流价值观评价体系，从源头把控内容品质，同时建立内容风控模型。可以让推荐更具价值，通过对用户和内容的多维度特征描绘，建立主流媒体算法内容标签和用户标签体系，实现海量具备主流价值观内容与用户个性化需求高效、精准匹配

三、主流媒体算法的功能实现

田心说：这一部分建议在理解内容的基础上背诵小标题~

（一）把控内容质量

主流媒体算法通过主流价值内容采集和质量审核系统，实时获取主流价值观热点新闻，并预测可能成为主流价值观热点新闻，采用推荐算法，挖掘优质热点新闻入库，实现人机结合，赋能内容正确价值观。编辑发稿前，采用质量风控算法，对编辑完成后的稿件进行主流媒体价值观审核，通过后才可发出。

（二）加深内容认知

主流媒体算法根据用户人口属性、用户分类、行为属性、兴趣特点等，建立党媒用户标签体系，为党媒推荐系统提供用户画像侧标签支持。同时，在内容侧构建出主流价值观标签体系，深度挖掘内容与用户潜在的关联关系，构建党建、社会治理、政务服务、文化、智库等领域的党媒知识图谱。

（三）优化智能分发

媒体通过推出智能推荐引擎、智能搜索引擎、人机交互引擎，深度融合党媒业务场景和专业能力、经验，最终能够形成多场景分发、多算法融合的智能分发机制，更好实现优质信息找人。

（四）追踪传播效果

主流媒体算法助力全链条动态监测传播渠道、路径等效果，全面摸排内容传播力度，精准评估热点事件和热点新闻影响力，并基于用户情感分析，有效提升党媒传播认知水平。

四、推进主流媒体算法的重点和难点

田心说：这一部分建议在理解内容的基础上背诵小标题~

（一）应全力打造自主可控平台

自主可控平台为主流价值驾驭算法装上了“防护盾”，守住了安全底线。主流媒体在发展中要加快自身的数字化转型，建设大型数据库，加强数据储备、数据筛查、数据清洗等技术建设，因地制宜打造主流媒体算法，精准进行主流舆论传播，扩大主流价值版图。

（二）应将算法纳入治理体系框架中

算法不是简单的技术工具，会影响经济生活各个方面和人的成长发展，要在法治化、规范化、制度化的框架下运行发展。目前，国家法律法规不断完善，《数据安全法》《个人信息保护法》都为算法发展提供了有力的法治保障，国家网信办等九部委印发的《关于加强互联网信息服务算法综合治理的指导意见》，对管理好、使用好、发展好算法应用做出了顶层设计。在具体的实践中，需要各平台坚持“谁主办谁负责”原则，切实履行管理责任，共同为算法发展营造良好环境，促进算法应用主流化。

专题课程

模考课程

点击下方对应院校图片可了解课程详情

冲刺课程

点击下方对应院校图片可了解课程详情

以上内容整合自：

[1]谭九生,范晓韵.算法“黑箱”的成因、风险及其治理

[2]朱巍.促进互联网算法生态规范发展四大关键点

[3]曹开.构建良好算法生态，加强主流价值引导

[4]张立冬,黄云.川观新闻：推进主流价值驾驭算法

[5]方师师.算法如何重塑新闻业：现状、问题与规制

[6]田丽.算法推荐的实践与认知研究

[7]喻国明,赵文宇.算法是一种新的传播观：未来传播与传播学的重构

[8]赵双阁,岳梦怡.新闻的“量化转型”：算法推荐对媒介伦理的挑战与应对

[9]喻国明,方可人.算法推荐必然导致“信息茧房”效应吗——兼论算法的媒介本质与技术伦理

[10]许向东,王怡溪.智能传播中算法偏见的成因、影响与对策

[11]吴椒军,郭婉儿.人工智能时代算法黑箱的法治化治理

[12]闫坤如.人工智能的算法偏差及其规避

[13]方师师.《算法推荐管理规定》中的政策矩阵与交互想象

[14]罗新宇.智媒体传播中“算法推荐”伦理的冲突与规制

[15]匡文波,张一虹.论新闻推荐算法的管理

[16]林嘉琳.算法技术演进下新闻传播的伦理困境

[17]张蕾,孙冠豪.算法社会：智能传播时代的文化变迁与走向

[18]张潇潇.算法新闻个性化推荐的理念、意义及伦理风险

[19]网信中国.《互联网信息服务算法推荐管理规定》今天起正式施行

[20]苏衡.算法社会公共领域的风险生发与规避

[21]蒋晓丽,钟棣冰.智能传播时代人与算法技术的关系交迭

[22]洪杰文,王怡.移动新媒体用户算法疲劳影响因素研究

[23]洪杰文,陈嵘伟.意识激发与规则想象: 用户抵抗算法的战术依归和实践路径

[24]彭兰,安孟瑶.智能时代的媒体与人———2022 年智能传播研究综述与未来展望

[25]彭兰.智能素养: 智能传播时代媒介素养的升级方向

[26]徐明华,魏子瑶.算法伦理的治理新范式：算法审计的兴起、发展与未来

[27]张涛,韦晓霞.我国算法治理政策法规内容及框架分析

[28]舒畅.人与算法的关系：从规训、控制到自主性

[29]苏衡.算法社会公共领域的风险生发与规避

[30]王娟.算法公平与“公平”算法——智能媒体算法公平有效落地方式探讨

[31]刘沫潇.挑战“黑箱”：用户如何与社交媒体算法博弈

[32]李新爽.异化与驯化视角下的算法辨析

[33]陈阳,吕行.控制的辩证法：农村青少年的短视频平台推荐算法抵抗——基于“理性—非理性”双重中介路径的考察

[34]段世昌.从归纳算法到审计算法：直播电商创业者的非正式算法知识研究

[35]孙卫华,刘亚楠.感知、生产与行动：饭圈粉丝的算法想象

[36]师文,陈昌凤.全球智能传播研究2023年热点议题：算法审计、算法文化与算法话语

[37]张爱军,贾璐.算法文化参与下的网络政治意识形态建构逻辑

[38]钟晓雯.算法推荐：信息传播在网络空间中的自由与秩序

祝好