作者 | 木马君
袋鼠说
选你想读的深度好文
社交平台大佬豢养的AI算法这头巨兽正在逐步毁灭人类……希望今天的文章能够给你们带来收获，欢迎分享和点亮在看。
选你想读的深度好文
社交平台大佬豢养的AI算法这头巨兽正在逐步毁灭人类……希望今天的文章能够给你们带来收获，欢迎分享和点亮在看。
周末的时候，百无聊赖，我在网上搜寻着还有啥值得看的东西，误打误撞地，我在网站上看到一段访问视频，标题是：《尤瓦尔·赫拉利对谈张静初：AI正在制造慢不下来的人》。
尤瓦尔·赫拉利，如雷贯耳的名字，他就是那个写了著名的《人类简史》的人。《人类简史》这套书是全球现象级的畅销书，全球销量超过2600万册。2600万册是什么概念呢？如今纸质书能卖到1万册就谢天谢地了，能卖到10万册就是难得的畅销书了。
张静初，也是大众耳熟能详的名字，她被国内民众熟知的身份是著名女演员，也是小红书上的学习版块的当红博主。
这两个似乎不在一个次元的人，坐在一起对谈，谈的居然是AI，这让我产生了巨大的好奇。
说实话，大部分人看这段访谈视频的动力应该不是因为张静初，而是因为赫拉利。
这位学者可算是大神级的人物，他对世界和人类社会的洞察总是那么另辟蹊径又一针见血。
50多分钟的视频，我仔细地看完了，没有快进，没有去看精华剪辑版，这在当下这个8分钟看完一部电影的时代，已经是一件难得的事了。
大神和张静初的对谈很精彩，张静初英语口语非常流利，可见是有真才实学的。
整个访谈的知识密度很高，我看视频的过程中，几乎每几十秒，我就要暂停一下，做一点笔记。因为这里面提到的很多观点都引起我强烈的共鸣，我忍不住要把这些意味深长的话写下来。
听君一席话，犹如精神上享受了一顿大餐，今天我想和读者朋友们分享其中部分观点和我的感触。
01
赫拉利教授的新书叫做《智人之上》，探讨的是AI技术对于人类社会的影响。
比如其中提到，在社交媒体领域，AI和算法已经无处不在。
我想大部分上网的人都有这个感受，如今你在社交媒体上看什么，已经不由自己决定了，而是算法让你看啥，你就看啥。
比如抖音、小红书等平台，一直都是平台的算法推送机制占主导地位。这两年，就连曾经以用户订阅为主导的微信公众号平台，也架不住KPI的考量，转换赛道变成了由算法来推送内容给用户。
你订阅的公众号更新不一定会显示，而你没有关注过的各种明星八卦，狗血低俗剧情，一股脑地推给你。
简直是流氓。
我之所以这么气愤，倒不是因为我作为博主利益受损才生气，个人得失只是微不足道的小事，而是这种算法主导背后的深层影响令人细思极恐。
赫拉利在访谈中提到，社交媒体背后的AI算法，最初只有一个单纯的目标，就是增加用户的参与度（Engagement），让每个用户在平台上多花时间。
如果每个人每天在平台上逗留的时间从30分钟提高到了一个小时，这就是一种巨大的成功，至于你这一个小时看了什么内容，有没有收获，这不是算法要考虑的问题。
很快，算法通过大量的数据和反馈，发现了提高KPI的秘密。
是的，大家都知道，算法是很懂得学习的，大量的数据反馈和深度学习，让它比人类更能得出精准的结论。
算法发现，要让用户更多地参与，更长时间地留在平台，就要激发用户强烈的情绪。
特别是那些负面的情绪，比如仇恨、恐惧、贪婪。
02
一开始听到赫拉利大神的这个结论，我顿时有一种醍醐灌顶的感觉。
是的，那些引人愤慨的负面事件，让大众恐慌的谣言，还有引人贪欲的内容，确实是能最快最广地传播。
科普生物课知识的关注度，肯定比不上散播某国或某种族的阴谋论，对于算法来说，后者更有助于KPI。
于是算法自然而然地会更多推流那些让人们生气、激动、争议、对立的内容。
社会群体越来越极端和分化，情绪越浓烈，流量也就越高，平台的业绩就更好看。
看到这里，你是不是倒抽一口冷气？
赫拉利教授在访谈中举了一个真实案例，讲脸书平台在2016年助长了缅甸的种族暴力冲突。
在缅甸，脸书也作为海外投资进入到缅甸，然而，随着时间发展，社会种族之间日趋紧张。
占多数的信仰佛教的缅族人和占少数的伊斯兰教的罗兴亚人之间冲突不断升级，最终导致7000-25000名平民被杀，18000-60000名男女被强奸和虐待，73万名罗兴亚人被驱逐出缅甸。
在这场暴力冲突中，脸书的算法起了决定性的作用。
脸书是如何做到挑起一个遥远的国度的种族冲突的呢？秘密正是在于它的推流算法。
虽然脸书曾辩称自己只是中立的工具和平台，然而事实是，平台背后的算法主动选择让特定的内容进行传播。例如在缅甸这场事件中，有53%的视频是由算法自动播放给民众的。
当带着偏见，阴谋和仇恨的内容被日积月累地散播给广大民众，显而易见，社会各族群之间的关系会越来越紧张，并最终爆发流血事件。
那么，难道算法本身是邪恶的吗？
并不，它最初的目标只是不断提高平台的KPI，让更多人参与和传播，让人们更长时间留在平台。
看到这里，你是不是也感到害怕？
回想起如今网络上的内容，不管是微博还是其他社交媒体平台，争吵、对立、控诉和小作文一波又一波地被传播。
真正是，坏事传千里，好事不出门。
有时我们甚至悲观地想，是这个世界变坏了吗？
也许，不是世界变坏了，而是算法只让我们看到了坏的一面，对于信息，我们已经没有了选择权。
03
在访谈的后半部分，赫拉利也给出了自己的建议，如何应对这个时代海啸一般的信息洪流？这里面还大部分都是泥沙。
他说，我们要有意识地进行信息节食。
在过去信息是稀缺的，所以我们接受我们能得到的任何信息。现在我们被太多的信息淹没了，还有很多垃圾信息。
垃圾信息被人为地注入了贪婪、仇恨和恐惧，这些东西吸引了我们的注意力。所有这些垃圾信息让我们逐渐地心智病态。
就像现代人都知道饮食要有节制，不能胡吃海塞，否则不健康。对于信息也是同样的道理。
赫拉利大神是个狠人，他不仅很少使用智能手机，而且每年都进行长达几周的冥想静修。
在禅修期间，他完全断开了和外界的联系。不看新闻，不读电子邮件，不读书也不写书——他只是花时间消化头脑中已经包含的东西，而不是往里面塞更多的信息。
虽然我们大部分人没有条件去失联静修，但是在生活里有意识地进行信息节食却是个不错的法子。
在国内生活的这几年，我没有微博，从不看抖音等短视频平台。我唯一的社交媒体在公众号平台，但是连它也变得越来越让人讨厌了。
以前，我只是本能地反感这些平台上推送的内容，现在听了赫拉利教授的分析后，我决心要更加警觉，不被算法推送的垃圾裹挟和影响。
一日三餐，我想吃得健康，吃得适量，而不是被一堆垃圾塞满了肠胃。
如果你也有同样的感想，可以试着主动去检索自己想看的内容或博主，多使用搜索和过滤，而不是无意识地上滑。
04
当然，平台和算法的能量是巨大的，我们每一个个体是渺小的，想要和算法对抗，几乎是螳臂当车。
号召每一个用户主动筛选和判断信息，这还解决不了根本问题，这就好像，让一个人在垃圾桶里捡食物，他没办法吃得健康。
关键是这些掌控着全球大部分信息来源的社交平台巨头们。
当初，当拉里·佩奇和谢尔盖·布林在1998年的斯坦福大学宿舍里创立谷歌时，他们说他们想要“整合全球信息，使人人都能访问并从中受益”。
而如今，谷歌刚刚被欧盟委员会罚了创纪录的24亿欧元，因为谷歌借助自己的垄断地位，用算法打压竞争对手的购物服务，而倾向了自家的购物车服务，很多中小创业者因此受创。
扎克伯格创建Facebook时，愿景是“让世界更加开放，更加紧密相连”。
但早在2021年，Facebook前员工弗朗西丝・豪根就实名对英国议会检举，如果Facebook平台不停止他们热推极端和撕裂性内容的算法，则该平台将会在全世界煽动更多的暴力骚乱活动。
全球视频领域的大佬油管（Youtube），在官网介绍上说，“要让世界更开放，少一点孤单，更有创造力，更有趣，并最终变得更好”。
而如今，战争、种族偏见、难民矛盾成了流量担当，当年轻人越多沉浸在油管，他们只会得到越来越多的偏见。这个战火四起的世界，显然没有变得更好。
当然，国内的社交媒体平台们也没有好到哪里去，不然你猜现在为啥男女关系变得如此对立和紧张？
微博说，它只是想让你“随时随地发现新鲜事”，但是现在它只想让你站队，你是普信男，还是喜欢杨笠？
05
不管是国内还是国外，这些社交平台的大佬们，都是千万分之一的人类精英，难道他们不知道，他们豢养的AI算法这头巨兽，正在逐步毁灭人类？
他们当然知道，但是这头巨兽正在给他们带来巨大的商业成功。
只要算法能帮他们多延长用户停留时间，能增长一丁点市场占有率，那在世界的某个角落，某个种族正在被驱逐，某个地区爆发战争，这些他们统统不在乎。
他们更加不会在乎，用户在平台看的垃圾内容，会不会让人类慢慢心智扭曲和退化。
社交媒体兴盛的这几年，我们花了越来越多的时间在手机上，接收了更多的资讯，但我们却没有变得更睿智，这个世界也没有变得更好。
在中国，原本是美好的女性独立意识萌发，慢慢地变成了男女对立和各种骂战。
在德国，日耳曼人和土耳其裔的移民鸿沟越来越深，而难民矛盾也一再被放大，刺痛了每一个德国人。
在美国，历史悠久的种族矛盾没有消除，而社会阶层的分化和对立反而愈演愈烈。
如今的社交媒体正在全球范围内分化和对立人群，算法不仅可以轻而易举地扰乱和影响总统选举，它还会让人类族群互相孤立，仇恨，并最终自相残杀。
AI算法可怕，而纵容了这头巨兽的平台大佬们更可怕，为了商业利益，他们挟持着全人类饮鸩止渴。
幸好，有赫拉利这样的智者，振臂一呼，戳穿了这个时代的真相。
THE END
袋鼠深度精选上月好文：
●热搜上“网红在深圳机场最恶臭的一幕”：病态群体，早该曝光了
●全网疯传“西大附中女教师群聊记录”，背后暴露的悲哀困境你不懂
