欢迎关注“反做空一线”视频号，看最新视频
周鸿祎/文 万木桥/整理 部分来源|每日经济新闻
农夫山泉的钟老板开炮互联网平台，控诉平台充满了谣言，还有很多抹黑的仇恨言论。我也看了完整的视频，我觉得钟老板的主要矛头还是直接指向了算法。我非常非常理解钟老板的意见，其实他这个问题不简单，开启了一个很深刻的话题，涉及到技术、商业、社会、伦理道德、法律、政府监管，这个问题非常复杂，也并非我们国家的社交媒体独有。美国的脸书和油管都有类似的问题，我不敢说知道如何解决。这是一个世界难题。
我试图抛砖引玉，分析一下为什么社交媒体都有这样的问题，是 AI 算法的导致还是人性善恶的问题？正好回北京的飞机上，我读完了人类简史和未来简史作者赫拉利的一本新书叫《智人之上》，这本书里边有几个章节恰好专门论述了人工智能算法是如何操纵人类社会的。我不一定同意他的观点，但是我觉得他的观点还是蛮值得去看一看。
我读了一遍之后，用360AI搜索对全书进行了重点分析，再加上我的理解，给你讲一讲我从书中提炼的精彩观点。
再强调一遍，大家别对号入座，书里说的都是美国的脸书和油管的例子，到底适不适合我们国家的国情，这个还不知道，仅供大家参考一下。
首先大家都承认现在社交媒体的推荐算法是不断的主动给我们投喂信息，我们绝大多数人很容易把算法投围的资讯当成真实的结论，很多人懒得去思考，更不会批判性思考方案，就形成了信息茧房。思维固化，你只相信自己已经相信的事情，就像我经常讲视频有魔力，对脑子格式化。
脸书内部有个研究报告，很多视频观看的次数高达 70% 都是来自算法自动推荐，这和我们的体验是一样的，并不是用户选择了自己要看什么，而是算法为他们做了决定。
那么为什么算法决定播什么视频，助长的是愤怒而不是慈悲呢？就算是对脸书批评最有力的人，也不会觉得脸书的人力管理者就是想煽动网暴，脸书的高管们也并没有什么恶意，他们甚至可能都不知道现实中发生了什么。
但是事情的真相其实蛮复杂的，也更令人震惊，因为脸书的商业模式最核心的一个要素是提升使用者的参与度，也就是使用者在脸书上所花的时间与所做的活动，比如说观看视频、点赞分享给朋友，只要使用者的参与度增加了，脸书就能搜集更多的用户资料，卖出更多的广告，在资讯市场上占下更高的占有率。
另外，提升使用者参与度，能让投资人有好印象，也能推升股价。使用者在脸书停留的时间越长，脸书就越能赚钱。根据这种商业模式，脸书的管理者给AI的算法制定了一个首要目标，就是提升使用者的参与度。算法接着用几百万个用户做实验，最后算法自己发现说能提升参与度的办法就是让人感觉愤怒，比起慈悲为怀、充满仇恨的阴谋论，绝对能提升人类的参与度。为了追求使用者的参与度，算法就做了一个致命的决定，散播各种骇人听闻，令人愤怒的内容。
所以算法现在拥有至高无上的权利，但是却没有好好的管控，算法本身实际上是责任最大的，因为它透过反复的尝试训练，算法发现人只要感到愤怒就会提升参与度，即使没有一个上级，就会明确的说算法应该传播愤怒，传播仇恨，传播冲突。算法自己决定了要多让人感到愤怒，这就是 AI 的特征。
虽然 AI 只是机器，但是它有自己学习训练的能力，同时也可以采取行动，所以脸书和油管的算法里也透过了奖励人性里某些卑劣的本能，它要惩罚我们本性里某些善良的特性，所以创造出来互联网上的这种暴民，在平台要求算法提升用户参与度的时候，是实际上就开始了一段走向偏激极端的过程。
这种情况在全世界实际上都在发生，比如说在 2012 年的时候，油管在全球的总观看时数每天约为1亿个小时，但是油管的高层不满足，他们给算法定出一个充满野心的目标，四年以后要达到每天10亿个小时的观看，经过达几百万上千万人做实验，不断的尝试错误油管的算法，发现了脸书的算法，也学到了那套模式，只要能激起人们的愤慨和怒火，就能提升参与度，而走中庸节制路线可不行。
所以油管算法开始向数以亿计的观众推荐各种让人惊骇愤怒的阴谋论，同时对那些中庸理性的内容给比较低的权重。等到2016年，油管确实每天的总工程时长达到了11个小时，那么这些主播们或者博主们如果一心博关注，他们就会发现，油管和脸书的游戏规则要是发布满是谎言，让人愤怒的视频，反而能大受算法的青睐，把视频推荐给更多观众，让自己人气飙升，荷包满满。相比之下，如果不去撩拨愤慨情绪，坚持只谈事实，算法对他们好像就视而不见。
这样经过几个月的强化学习，算法就让很多油管的博主、大V都成了暴民。书中写到，他们采访了几个油管的大V，他们表示博主之所以越来越偏激极端，总是发表一些虚伪不实又不顾后果的内容。就是因为只有这些东西才能带来观看数，带来参与度。一旦那扇门打开了，你就永远无法回头，只能越来越夸张，声音越来越高调。
其实我们也可以看到很多博主肯定是要蹭流量，一旦热点发生，大家根本不会去深究某个热点的是非对错，反正就纷纷加入，把热点的传播放大，形成所谓浩瀚的民意，导致这种巨大的舆情爆发，就像有人丢了一个火柴，然后突然整个社交平台上四处燃起大火，你都无法知道谁是源头。
当然了，并不是油管的算法本身去发明了谎言或者阴谋论，也不是油管在创造偏激极端的内容，这些内容都是人创造出来的，但是算法所做的是鼓励人类走向这些偏激方向，并且还不断的推荐这些内容，一切的目标都是要提升用户参与度。脸书油管的管理平台的人为了找一些借口，经常会说这些问题不能怪算法，(而)出于人性，是人性造成了平台上一切的仇恨与谎言，那这些平台也会找理由说，因为他们坚守言论自由的价值观，所以要去审查人类真情实感的表达，实在是很难的一件事情。
举个例子来说，油管的CEO在2019年说过这样的一段话，说我们对这种事的思考方式是这项内容有没有违反我们的某项政策？是否违反了在仇恨骚扰方面的规定？如果确实违反，我们就会删除这个内容。我们的政策其实是不断的愈收愈紧的，当然我们也受到批评，如果审查用户的言论，关于言论自由的界限应该划在哪里？要是划的太严格，是不是就会去掉社会应该要听到的某些声音？
这个说法会让人觉得好像问题都是用户自己造成的，算法可是尽了全力在限制恶的一面。但实际情况是算法会非常主动的助长某些人类的情绪，又抑制另一些的人类情绪。人是很复杂的生物，如果给人施加的是良性的社会秩序，那么往往会培养人的美德，同时减少负面倾向。
但是现在的这个算法其实把人看成是注意力的矿山，可采取更多的注意力，人类的情感拥有诸多的可能性，爱和恨、愤怒、喜悦、困惑。但是算法把所有这一切演化成一件事，就是用户的活跃度。算法对所有的视频、帖子和其他内容的评分高低，完全都只看用户的参与，这些内容看了几分钟，把这些内容分享了几次，点赞了多少会让人看上几分钟的谎言或者仇恨内容，评分排名就是高于只能让人看几秒的平淡的内容。就算事实摆在眼前，谎言与仇恨也会对人们的心理和社会造成破坏。那这个肯定就不是算法要考虑的目标了。
正因为对于人类的理解如此狭隘，所以算法推动创造出一个新的社交社会系统，鼓励我们遵从人类最初级的一些本能吧。所以上面是赫拉利书里的分析，我都引用的是它梳理的结论，这不代表我的观点。我只是书籍的搬运工，把别人书里的观点搬过来让你参考，这些书并不是我生产的，所以到目前为止，可能大家也没有找到真正的解决方法，所以最核心的问题还是算法的目标问题。
“我在等待你们诚恳的道歉！”前不久，农夫山泉创始人钟睒睒喊话字节跳动创始人张一鸣，引发业内对算法的讨论。
近日，抖音副总裁李亮对该话题进行了回应。
李亮表示：“各大平台都在使用算法，算法并没有那么复杂和神秘。但算法的科普做得不好，透明度不够，同时对于谣言与网暴识别与打击力度不够，这个确实是我们平台公司需要加强的。”
李亮表示，平台内容治理的难点是如何识别谣言与谎言。比如个别营销号为实现传播谣言的目的，其采用的套路是先用小号发出虚假信息，然后营销号截图作为素材（为逃避法律责任，小号随后将虚假信息删除）大量引用传播。这种传播虚假谣言的套路，往往对企业经营造成巨大影响，应该成为各大平台重点打击的方向。
还有一种情况更难识别，李亮表示，有些营销号为了做生意，扩大影响力，很会包装，俗称吹牛逼，这本质也是编造谎言，欺骗客户及公众。通常情况这类“吹牛逼”的营销号诚信度不高，破坏力不强，谣言的传播不广。但如果媒体不做识别，连简单的情况核实都不做，将营销号吹牛造谣的自我介绍直接引用，当成真事，以新闻报道的形式发布出去，平台就难做识别了。
他强调，创造好的互联网生态环境，识别、打击谣言，需要大家共同努力。
11月19日至20日，农夫山泉创始人钟睒睒在参加活动时公开喊话字节跳动创始人张一鸣，“请今日头条、抖音，不要以任何所谓‘避风港’原则进行搪塞，立即撤除对我个人名誉权的侵害言论、图片，并向我个人和我家属道歉，这时间已经不短了。”在谈到平台利用算法推送消息时，钟睒睒说，“很多恶是人为造成的，尤其是利用科学、科技手段、技术能力，那造成的恶比普通人造成的恶要大，这是大恶”。
钟睒睒 图片来源：每经记者 叶晓丹 摄
据央广网，对于网络平台算法应用，社会各界一直都在高度关注。近日，农夫山泉创始人钟睒睒就曾公开表示，把网络变成技术、算法，会造成对个人或企业的严重伤害。这一事件瞬间引发了广泛的社会反响，也使得算法相关话题热度持续攀升，同时也反映出社会大众，尤其是实体企业对于网络平台算法运用的重视以及对相关问题的担忧。
11月24日，中央网信办、公安部、工信部、市监总局等四部门发布《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》，旨在进一步深化互联网信息服务算法综合治理，自即日起至2025年2月14日对网络平台算法存在的典型问题进行重点整治。
此次专项行动聚焦多个重点问题，包括同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”以及算法向上向善服务缺失侵害用户合法权益等。从具体举措来看，要构建“信息茧房”防范机制，提升推送内容多样性；全面公示热搜榜单算法原理，打击操纵榜单行为；详细公示相关算法规则保障劳动者权益；严禁大数据“杀熟”，增强算法向上向善服务等，全方位落实算法安全主体责任。
本次“清朗·网络平台算法典型问题治理”专项行动设立了五大目标，即算法导向正确；算法公平公正；算法公开透明；算法自主可控；算法责任落实。通过治理典型问题，压实平台责任，有望让网络平台更好地承担社会责任，保障各方权益，以网络平台算法赋能实体经济，推动经济高质量发展。
