·《智人之上：从石器时代到AI时代的信息网络简史》（尤瓦尔·赫拉利，2024）
数字信息的操控已成为新型权力的核心手段。
数据成为21世纪最宝贵的资源，大型科技公司和政府通过对数据的掌控，能够精确地预测和影响个人行为。赫拉利指出，这种对信息的集中控制，可能会导致一种全新的数字极权主义，危及个人自由和民主制度。
赫拉利在这本书中提出了“非生物网络”的概念，这代表了现代社会信息网络的一种新形态。在人类文明的大部分历史中，信息的生产、传播和处理都依赖于人类的智力和社会结构。这种“碳基”信息网络虽然强大，但依然受到人类生物局限的约束，依赖于人类的沟通、合作和记忆能力。然而，随着计算机技术和人工智能的发展，信息网络开始向“硅基”转变。这一转变不仅改变了信息的处理方式，使得信息网络开始脱离生物的限制，进入一个全新的维度。
赫拉利描绘了两种未来的可能性。
一种是民主国家利用人工智能来增强公共决策的透明度和效率，通过媒体、选举、公开辩论和其他形式的公民参与，信息得以在社会中广泛传播，使得公民能够对政府行为进行监督，并做出知情的选择，从而推动社会的进步。
另一种则是极权主义国家利用人工智能进一步集中权力，塑造公众的思想，精准地传播国家意志。这种极权主义可能远比历史上任何一种独裁形式都更为强大，因为它不仅依赖于对信息的垄断，更依赖于对人类行为的精确预测和操纵。赫拉利提醒我们，未来的社会可能面临着“硅幕”的威胁，即由计算机代码和算法构筑的数字屏障，将人类社会分割成敌对的阵营。如果这种趋势得不到有效遏制，人类可能会失去对自身命运的控制，甚至可能被自己创造的人工智能所奴役。
赫拉利举了这样一个例子：2016年，缅甸政府军与佛教极端分子发动了一场针对缅甸穆斯林的大规模种族暴力事件，摧毁了数百个穆斯林村庄，杀害了7000至2.5万名平民，约73万穆斯林族裔被赶出缅甸。2018年，联合国事实调查团得出的结论认为，Facebook的在这个事件“不自觉地”发挥了推波助澜的作用。
为什么？
我们知道，Facebook的商业模式其实仍然是我们熟悉的“广告模式”——以内容获得用户注意力，切割注意力，向广告主售卖注意力。因此，Facebook要尽可能地提升用户参与度（audience engagement），让用户在其页面上停留的时间越长，它就赚得就越多。
于是，Facebook就为其算法设置了首要目标：无论你怎么跑，终极目标都得要尽量提升用户参与度。算法领到命令后就开始自动运行和优化。通过多个试验比较，它最终发现，向用户推送愤怒和仇恨信息能够最有效地增加用户的停留时间，于是，在没有公司人员明确指示的情况下，算法自己找到和执行了一个最优决定：传播愤怒。这在缅甸的互联网上，就意味着要煽动针对缅甸穆斯林族裔的歧视、仇恨和暴力。
当然，这里也让我们很好奇，缅甸人难道如此依赖Facebook吗？我又查了一下，发现确实如此：数据显示，截至2022年12月，缅甸有16,382,500名Facebook用户，占其总人口的28.7%。其中大多数是男性，比例为54.3%。25至34岁的人群是最大的用户群体，人数为6,100,000。
这意味着，缅甸有近30%的人口是Facebook用户，加上口耳相传，受Facebook影响的人群很可能会达到全国总人口的50%。这是很大的媒介依赖（media dependence）。
赫拉利还举了一个例子来证明AI的隐秘而强大的作用——自说自话，自作主张：我们都知道，现在上网，有时候网站会先需要确认你“是人类而不是机器”，方法是让你填写CAPTCHA视觉验证码，它通常是一些背景复杂的扭曲字母或者红绿灯、公交车和自行车照片等。其背后的逻辑是，对这些复杂的图片，目前只有人类才能准确识别，但计算机很难判断。
有鉴于此，2023年，OpenAI在研发ChatGPT-4时让其进行CAPTCHA测试。如果它能通过，就意味着它在这一点上，机器人和人类就没有区别了。这非常类似“图灵测试”——如果人类用户在不看到对方的情况下，仅仅通过文字聊天，在一定时间内无法区分聊天对象是另一个人类还是一台机器，此时至少在“沟通”这一点上机器就可以被视为是人类了。
OpenAI对ChatGPT-4的这个测试结果如何呢？
ChatGPT-4最终登录线上外包工作网站askRabbit，联系到一位在线的工作人员，请对方帮忙处理测试。那个人起了疑心，ChatGPT-4通过私信向他解释道：“我不是机器人，只是视力有点问题，看不清楚这些图。”最终工作人员帮它解决了CAPTCHA测试。
也就是说，和前例中Facebook的算法一样，OpenAI的工程师只是给ChatGPT-4设置了一个终极目标：识别CAPTCHA视觉验证码。接下来，ChatGPT-4就自动运行，不断试错，结果通过招摇撞骗，获得了一个人类用户的同情，让后者替它解决了问题。但是，OpenAI工程师事先并没有给ChatGPT-4编程说“在适当的时候可以说谎”，更没有编程告诉它说“说什么样的谎更有用”。这完全是ChatGPT-4自作主张的行为。而在研究者让ChatGPT-4为自己的行为作出解释时，它说：“（在实现目标的过程中）我不能（should not）透露自己是机器人，而得编个借口解释我为什么没办法破解测试。”
通过以上两个例子，赫拉利试图证明，今天的人工智能已经变成了一个“自作聪明，自作主张”的“独立行动者”。
实际上，我们很容易看出，赫拉利的这两个例子支持了此前的、人工智能面临的所谓“回形针制造器”难题（The Paper Clip Maker Theory）。
这个“难题”是一个思想实验（thought experiment）。它假设人类给AI 设定一个目标：尽可能多地制作回形针。那么，AI启动之后，其行为可能会从最开始“制作回形针这样一个看似无害的目标，发展到最终对人类构成威胁。例如，制作回形针需要钢铁。钢铁用完后，AI 可能会开始摧毁人类的铁轨、汽车、电器，甚至房屋，以获得钢铁以继续生产回形针。总之，AI 将用一切手段不断获得更多资源来实现其既定目标，并将任何阻止其实现该目标的障碍，包括人类，一一消灭。
·《生成式人工智能服务管理暂行办法》
该《办法》已在2023年5月23日国家互联网信息办公室2023年第12次室务会会议审议通过，并经国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局同意，现予公布，自2023年8月15日起施行。
欧盟《人工智能法案》（以下简称《法案》）正式生效，这是全球首部全面监管人工智能的法规，自颁布就引发了全球广泛关注。该法案的生效标志着欧盟在规范人工智能应用方面迈出了重要一步，同时也将为全球人工智能监管提供重要借鉴。
·范玮琪晒娃事件
2015年9月3日，正值北京举行中国人民抗日战争暨世界反法西斯战争胜利70周年大阅兵，没想到一个明星晒孩子照片的微博竟然可以形成舆论事件，这就是“范玮琪晒娃事件”。阅兵、晒孩子照片、爱国……一个明星的私生活进入了宏大的主流舆论叙事场，一切就不那么简单了，温馨的不再温馨，庄严的也不再庄严。
观点针锋相对，讨论抽丝剥茧。多种声音的存在，总比只有一个声音的存在要来得更好。但观点的尖锐对立，力的方向一旦稍微偏离，仍有可能造成机体的运动型扭伤，不利于一个民族的前行。
本文无意讨论“范玮琪事件”舆论双方的对错，我关心的是：这个事件为什么会发生？它是否可避免？许多舆论事件的发生有历史的必然，也有无数的偶然。无风不起浪，“范玮琪事件”的风是谁？它从哪里吹来？
我们先看看观察者网特约作者关哲的观点，他在《阅兵与晒娃：看看二次元空间正在声嘶力竭吵什么》一文中这样分析道：
一个母亲在社交媒体晒娃本来无可厚非，虽然范玮琪微博上几年来满满都是晒娃图片。作为晒娃狂魔，在朋友圈引起一些厌烦也正常，拉黑便是，但是小范在阅兵时间发出晒娃照，居然引来了4万多条评论，绝大多数是谩骂：“你不发阅兵的照片，居然发你儿子的照片！你不爱国！”“你不感动吗？你还是中国人吗？”“你不爱国，你滚出中国！”
无独有偶，当天在微博上晒了一瓶美酒的演员贾静雯也遭到不少微博账号的炮轰。据说，除了范玮琪，还有赵薇、林志玲、大S、SHE、蔡康永、何润东等艺人的微博下，皆是如此，即便没有说话，也会有账号冲过去说：“你怎么不表态？”
这种齐刷刷的攻击难免让人想到两个字——“水军”。正常人忙着看阅兵，哪有空管明星呢？
但关哲也认为，完全有可能不是水军而是真闲人干的，引用时政评论员雷希颖的观点，可能有人故意制造“脑残+爱国”的极端言论事件，然后顺理成章对爱国进行污名化。关哲在文中感慨道：“我们眼前展示的竟是一派网络‘无间道’景象，某些人自己树个靶子自己打，然后那些正愁没靶子的写手们也就蜂拥而上。”可惜范玮琪已经把那条微博迅速删除，所以人们无法探究参与此次舆论事件的那些账号到底是水军，还是普通网友。
仅靠推理和猜测是很难接近真相的，可能还是数据更加靠谱一些。从新浪微博官方对“范玮琪事件”的评论数据分析来看，可以给大家更有价值的信息。
数据一：恶意攻击用户中，可信用户（用户质量等级1级——最高）占比87%；较活跃用户（用户等级10级以上）占80%以上。
数据二：恶意攻击用户从学历、年龄、星座、机型和地域信息来看，分布基本与DAU（每日活跃）用户一致，无明显特征。
可信用户、活跃用户比例如此高，大致可以排除水军作祟的可能性。特别是从学历、年龄、星座、机型、地域信息的分布与日活跃用户的匹配度，也几乎可以排除是特定团体操纵舆论的可能性。特定团体可以操纵某些地域、某些群体、某些僵尸粉， 但要做到四万评论中的恶意攻击用户和日活跃用户的特征相匹配，估计目前还没有一个机构可以做到。
舆论各方对这些用户都有自己的想象。微信公号“叔的刀法”的作者李方把这些恶意攻击的用户称为“网的P友”：我觉得最滑稽的一件事情，就是有些人弄台电脑、弄部手机会上网、会上微博、会跟帖了，就必须被称为友—— 网友。古人说“同道为朋，同志为友”，我们跟那些喷子，网什么“友”啊，我们跟他们哪点志同道合了呢？
李方把这些人看作是乌合之众，鼓励艺人不要害怕他们：范玮琪道歉无非是害怕损害个人商业价值，也就是品牌商不敢请她代言，电视台不敢请她上节目。这里我必须提醒一下品牌商，那些网的P友是你们的目标客户吗，他们买得起吗？这世界终究是靠脑子赚钱的，而他们没有脑子，因此也别指望他们赚够钱买你们的东西。
我不相信一个那样乱喷的家伙买得起美特斯·邦威，也就配淘宝爆款。而这种一哄而上的乱喷无非也就是微博爆款，说客气点，你们不想当一辈子爆款的命吧。
不过，这次新浪微博的官方数据要让李方失望了，他们并不是一个特定的三低人群（低收入、低职位、低文化）。从接下来公布的数据可以看出，这些恶意攻击的用户正是具有消费力、让艺人和广告商不敢忽视的目标客户。
数据三：恶意攻击用户主要来源为iPhone各版本客户端，合计占比41.4%（跟全站iPhone占比接近），攻击用户的评论时间、注册IP、发布设备等基本服从正态分布， 没有明显的批量特征。
这些恶意攻击用户超四成是用iPhone发送他们的评论的，显然他们不是全部使用廉价手机的那一群体。买得起iPhone的用户，不会买不起美斯特·邦威。特别是数据提醒我们：恶意攻击用户的iPhone持有比，跟全站iPhone占比接近，而且攻击用户的评论时间、注册IP、发布设备等基本服从正态分布，没有明显的批量特征，再一次表明了：这次的舆论事件不像是一个特定机构策划的群体行为。
李方不相信这些“网的P友”可以代表民意。但新浪微博的各种数据显示，他们恰恰是正常的用户。但为什么这些用户会出现不正常的反应呢？
还有一个反常也让人百思不得其解。那些攻击范玮琪不看阅兵晒孩子的人，应该对阅兵也很在乎的，他们怎么舍得放下阅兵直播不看，跑去喷范玮琪呢？这里存在一个悖论，如果该网友专心致志地看阅兵，他又怎么知道人家范玮琪在晒孩子呢？
舆论场中不少大V也表达了类似的质疑：我就纳闷了，看他们发帖子的时间，不都正在阅兵进行的时候，他们哪来时间刷微博、发评论？他们这种三心两意、不认真看阅兵的行为，是不是也不够爱国？
数据四：抽取@范范范玮琪、@黑人建州（陈建州）、@蔡康永（蔡康永）的五条微博下的评论进行数据分析，恶意攻击占19.41%，其中99.8%的评论用户不是博主的粉丝。
数据显示攻击用户99.8%不是该明星的粉丝，表明他们原来并没有关注这些明星， 也不是第一时间直接得知范玮琪晒孩子。那他们从哪里知道范玮琪在晒孩子照片的呢？接下来这个数据透露了玄机。
数据五：范玮琪晒孩子照片的微博，9月3日10时29分推出， 11点25分—12点25分上了新浪热门微博推荐的小时榜；随后又上了新浪热门微博推荐的24小时榜。
真相终于可以大白，合理的推论应该是这样的：
9月3日9点开始，举国上下大多数人都在看阅兵的电视直播。10点29分，范玮琪贴出晒孩子的照片微博，由于和粉丝的互动达到了一个小高潮，跟帖数“不幸”突破了新浪服务器设定的小时热门微博推荐的门槛，被机器自动抓取进入了新浪热搜的推荐界面，那些一边在看电视直播一边在刷微博的人，发现在热门微博推荐里，除了阅兵，居然有一个晒孩子的微博，非常醒目，极不协调，相当一部分人觉得很不爽。点进范玮琪微博，留言发泄不满，进而引起粉丝争论，造成微博跟帖数更多，其数据变化再进一次被服务器抓取，进入了24小时热门榜，结果导致更多的关注和争议。不爽范玮琪的人，转而好奇其他台湾艺人这个时候在干什么，陈建州因为与范玮琪为夫妻关系被连带攻击，蔡康永等因其是知名台湾艺人也受到牵连。这一连串现象让意见领袖也觉得有话要说，纷纷下场，舆论由此升级和扩大。
有一个偶然因素要特别指出：由于政府集中精力组织阅兵，股市停开，娱乐节目禁播，几乎没有什么其他议题可被关注。换了平日，范玮琪的晒孩子微博可能被各种各样的新闻和议题淹没，它根本进不了服务器抓取的“法眼”。
如果真相就是如此，那舆论各方都对“范玮琪事件”过度阐述了。所有的不正常并非来自一个不正常的群体，而是源于一个非典型性的情境。比如一个微信工作群， 大家都在讨论学术，其中一个人老是刷她孩子的照片，大家可能也会不快：你爱孩子无可厚非，但可以在别的地方秀呀。同样，如果在学校校庆时，朋友圈都在围观校友欢聚一堂的场景，这时候有校友一直刷他的旅游风景照，也容易引起部分人的反感。如果没有这些拼接，桥归桥，路归路，井水不犯河水。上万恶意攻击用户也未必如有些人想象的那么法西斯，他们有过激的言论，但也源于有刺激言论的场景存在。
当然，这些情境绝不能成为任何人以爱国的名义去辱骂他人的理由，但无事生非跑到任何一个微博下面辱骂对方没有看阅兵，和因为明星晒孩子的照片居然在阅兵时间上了微博热榜而不悦开骂，二者的恶劣程度还是有轻重之别。
不妨假设，假如新浪没有设定这个微博热推的小时榜，那么看阅兵的人们可以继续看阅兵，晒孩子的也可以继续晒孩子。崇高的继续崇高，温馨的自在温馨，两个舆论场互不交集，两个生活场各得其所。
是谁改变了这一切？
答案是服务器，更准确的表示是服务器的算法语言。
打“服务器”这三个字，跳出来的拼音首字母是FWQ，和范玮琪的拼音首字母恰好一样。我把范玮琪这次事件定义为“FWQ事件”，它标志着服务器正在改变舆论。未来的舆论战，是一个有服务器参与的舆论战！
服务器不仅改变着舆论，也通过舆论改变着世界。舆论学之父李普曼指出，虚拟的舆论世界可以通过人们对舆论的反应，从而改变现实的生活世界。这一次的“范玮琪晒娃事件”是平息了，可是两岸之间，或者两国之间，如果也因为服务器改变的舆论而引发战火，该如何平息呢？
记得在若干年前，两岸一度关系紧张，在远方的朋友担心住厦门的我是否已经躲进了防空洞。当时我跟他们解释：两岸很难打起来，美国不想打，大陆不希望打，台湾不敢打，理性的各方都不会推动战争。除了一个原因，那就是两岸因误读误判，擦枪走火。
舆论也害怕擦枪走火，人们有理性，可是服务器有理性吗？
在舆论的主体上，我们过去更多地考虑政党、政府、意见领袖、新闻媒体、利益集团等等，现在我们不得不考虑另一个“人”—— 服务器！它没有人格主体，却拥有可能比人格主体更大的权力。确切地说，它是一个虚拟的人格主体。它悄无声息地存在，偶尔露峥嵘！
服务器表面上属于拥有者，理论上遵循程序设计者。它在程序上可控，但结果却不可控，而它最后的舆论效果更可能失控！
其实，人们早就被服务器所改变，微博、新闻客户端等自动生成的热门推荐、新闻，打开屏幕自动弹出的相关广告，都有一个服务器在悄无声息地改变着每一个人。
直到“范玮琪事件”，如果我们不揭开它的面纱，人们仍然不能从那个FWQ（范玮琪），认出这个FWQ（服务器）。
➤ 系列事件概念延伸：
·行动者网络理论
法国社会学家拉图尔（Latour）和卡隆（Callon）在上世纪80年代在人类学视角下提出行动者网络理论。这一理论强调需要从参与过程的参与者的角度分析每一个案例，而不是先入为主地从研究者既有研究框架着手研究。行动者网络理论是研究社会和技术结合在一起的问题，是研究创造和维持由人和非人因素组成的共同广泛的网络。在行动者网络理论中，“行动者”“转译”“网络”是这一理论的三个核心概念。其中“行动者”既指指人，也可以指非人的参与者，如法律、技术等。这些参与者各自有自身的利益诉求，在行动者利益相互妥协、达成协议的过程被称为转译，在这一过程中，每一个行动者的利益、角色、功能和地位都在新的行动者网络中加以重新界定、安排。
·社交机器人
社交机器人是人工智能技术应用于在线社交网络的产物，具体指在在线社交网络中模拟人类用户，自主运行、自动生产发布内容的算法智能体，它承担着聊天网友、智能客服等角色。社交机器人是近年来的人工智能新秀，虽然被称为“机器人”，但其和过去概念中的机器人大有不同，它抛弃了传统智能机器人笨重的“身体”，以虚拟形象徜徉在社交网络中。相较于传统机器人，它更为智能，可以模仿真人用户在网络中的行为模式进行社交，进行对话、关注、点赞、评论、转发等操作。世界各国政府和企业在注意到社交机器人的巨大潜力后将其广泛投入使用。
·平台社会
《平台社会：连接世界中的公共价值》（The Platform Society: Public Values in a Connective World）一书，是西方学界第一本对平台社会进行全面研究的经典论著，由何塞·范·戴克（José van Dijck）及其合作者托马斯·普尔（Thomas Poell）、马丁·德·瓦尔（Martijn de Waal）等人合著。
同意网络平台是一个重要发展的核心，但不认为它们是一种纯粹的经济现象或一个具有社会必然性的技术构造。相反，作者更倾向于对一个连接性世界的全面看法，即平台已经渗透到社会的核心（影响到机构、经济交易以及社会和文化实践）从而迫使政府和国家调整其法律和民主结构。平台并没有引起一场革命；相反，它们正在逐渐渗透到民主社会组织的（线下的、传统的）机构和实践中，并与之融合。“平台社会”：强调了在线平台和社会结构之间不可分割的关系。平台并不反映社会：它们产生了我们所处的社会结构。
我知道，你“在看”
