706 热点读书会第 4 期
主题：自动驾驶与自动社会
讨论文本
什么都自动了
来源：抖音视频@承蒙厚爱
我不是被抢饭碗的司机，但关注这个问题绝非咸吃萝卜淡操心。因为正如哲学家斯蒂格勒在这篇遗作中说的那样：
我们生活在普遍化了的、整合性的（法语 intégrale）自动作用的时代。种种的生物自动机制、生理自动机制、精神自动机制和社会自动机制，或者它们留下来的东西，既被那些技术自动机制给重新安排了，也被它们逐步而深刻地转形（trans-formed）了（特别是涉及到社会自动机制的时候，而且也是在涉及到心理自动机制的时候），然后又被它们脱形了（de-formed），最终则被它们取代了。
（《自动人的负人类学之原理》，未注明译者的引文均为本文作者译自原文）
在斯老师所说的这个全行星的自动社会里，什么都是自动的了。我举几个例子：
萝卜的智能可能还是刚上路的水平，但它已不再是用机械装置完成特定操作的自动机（automat）了，而是集传感、视觉分析、导航、智能控制为一体的递归（recursive）机器。很快，大语言模型就会成为电车的人机交互入口，来掌控乘客意图。（见比如《ChatGPT 作为你的汽车协作驾驶的最初尝试》[ChatGPT as Your Vehicle Co-pilot An Initial Attempt]）。
如今接到陌生来电，我总会按兵不动，给那头来个图灵测试：谁先摒不牢开口说话，谁就更有可能是营销 AI。
随着作为决策树系统的自动剪辑等技术的发展，Sora 这样的视频大模型有望为用户“实时”定制视频内容。而这就将进一步凸显新媒体的自动化趋势（马诺维奇《新媒体的语言》），从而更加使得我们的“心理个体化短路了，把它变成技术式个体化的附属品”（《自动人的负人类学之原理》）。
“电影效果”的自动变焦进一步把拍摄者无产阶级化（proletarianization，指与知识分离）了。
层出不穷的“智能”乐器（smart instruments）或者说傻瓜型乐器把复杂的弹奏变成了简单的按键，把演奏的手势给文码化（grammatized）到了这些器具（instruments）/玩具里，以至于 0 基础也可以“挂上自动挡”开始“辅助驾驶”，似乎再也不用“挨那么多打”来单纯靠重新生产（reproduction）的方法学音乐了。
智能钢琴
全球最大的笔记平台之一 Notion 率先把 AI 引入其系统，而后又利用热门的检索增强生成（RAG）技术来组织记忆。公司的 CEO 赵伊展望道：
大多数人的大脑工作起来就像魔法，没有组织，却自动运转。软件正朝那个方向发展。
然而，这毫无疑问也会加剧思维的自动化。
对比一下纸书时代最富原创力的社会学家、笔记狂人卢曼，他为了让数量庞大的卡片笔记之间碰撞出意料之外的联系，需要定期充满意识地维护卡片盒系统。
也就是说，动笔前零碎的准备也是输出或者说外体化（exosomatization）的一部分，不能一股脑儿扔给 AI。
哪怕是政治精英，被裹挟在今天的信息洪流中，也一样被无产阶级化了：内参翻翻，就天下尽在掌握了？马斯克嘲讽拜登这样看滚动提词器念稿的老糊涂：
我很好奇背后的主人是谁。
控制远程提词器（teleprompter）的人才是老大。
可看看这位首富在买下推特（即 X.com）的期间被冲扰的（disrupted）心智，又好到哪里去了呢？（见艾萨亚克《伊隆·马斯克传》）
至于目前仍在持续的两场战争，更是成了测试乃至正式应用杀戮机器人的实验场。而以色列国防军基于 AI 的福音（Habsora）系统尤其是一家“大规模杀人工厂”（前情报官员的描述），能以远超以前的速度来几乎自动地“生成”打击目标，制造死亡。
自动，以什么代价？
把你的通勤状况，包括你在做的事，以及现实里吸引你注意力的真实活动结合起来，通过监控来塑造消费逻辑，并以此获利，现在，你宝贵的 52 分钟注意力就可以拍卖给出价最高的买主了。想要更深入了解你的人将可以获知你的移动模式，进而将其发展为操控你行为的深度科学。
应该将自动驾驶汽车理解为一场向生命索取并将生命的每个时刻都变成金钱的战争的又一次升级，它绝不给个人思想留下空间。
（马修·克劳福德 《当放弃了方向盘，我们失去了什么》徐婳、蒋楠译，浙江教育出版社，2023 年）
这就是所谓的技术封建主义：“种萝卜”的百度，以及掷巨资造车的世界最大的“广告公司”——谷歌等等，早已瓜分了偌大的一片数码领地，也就是那个栈（The Stack）之中的云层（Cloud layer，布莱顿《栈》），但还觊觎着在汽车所运行于其中的城市层开始一轮圈地运动。
栈的 6 层
它们在自己的地盘上，是掌管一切的王。而在平台补贴大战中揩过油的广大网民，也就是数码农奴或者说云奴，早就看穿了资本的把戏：
前期小恩小惠，愿者上钩；
等它从 0 到 1、垄断了市场，用萝卜们把坑都占上了，你就是案板上的肉了。你打人家的车，是借用领地，得交地租（使用费）。哪怕只是猫在后座看车载屏幕推的娱乐内容，也是在为领主打工，把自己的意识敞开得像露天矿场一样让营销来开发，使自己的踪迹数据作为领主的数码资产（一种固定资本）而得到增值。
这跟中世纪封建制有什么差？就这样，
云资本一举实现了两种角色的自动化。资本指挥工人、消费者的权力被交给了算法。这比用工业机器人取代汽车工人更具革命性。毕竟，工业机器人只是做了从卢德分子之前的自动化在做的事：让无产阶级成为多余的人，或让他们更痛苦，或者两者兼而有之。
而真正有历史意义的颠覆是将资本在工厂、商店或办公室之外指挥人的权力自动化——将所有人，包括云端无产者和其他人，变成云农奴，直接为云端本服务（无偿），不受市场影响。
同时，传统资本主义生产商越来越别无选择，只能按照云资本家的意愿销售产品，并向他们付费，与他们建立无异于封建领主的附庸的关系。
（瓦鲁法基斯《技术封建主义》蓝江译，页 123）
在 ChatGPT 发布伊始，微软的创始人比尔·盖茨说这是他一生中遇到的“两项革命性技术”之一（另一项是图形界面 [GUI]），而英伟达的 CEO 黄仁勋则说这是 AI 的“iPhone 时刻”。他们提到的这些技术主要都是在界面层上。
可是，斯老师却认为 GUI 过时了。尤其是移动互联网产品的界面消灭了一种默契和共同牵连（co-implication）的空间，因而无法成为“一块通向快感的平面“，来有效激起对界面的攀登欲。（斯蒂格勒《快感、欲望和默契》，收于《人类纪里的艺术》陆兴华、许煜译，重庆大学出版社，2016 年）
ChatGPT 颠覆了这个模式，但一样的简单化就注定了它们的殊途同归——营销。所以，GUI、ChatGPT 都是瓜子，想让我们一颗接一颗地嗑不停。但我们应该优雅地剥开栗子壳，吃仁。
“互联网+”对出租车业的一次次驱逐性的改良（innovations），不但由于拉客的空车过多，可能使得订单的平均等待上车和单位距离所需的时间比以前更长了（纽约车管所报告，转引自《当放弃了方向盘，我们失去了什么》），更使得出租车司机的驾驶技能不断贬值。
而美国学者理查德·瑟奈特（Richard Sennett）甚至一针见血地指出：
现代社会就是在日常生活的进行中使人脱技能化（de-skilling）。 前言，《一起》（Together），企鹅出版社，2013 年
于是，另一种命运仍未向我们敞开，而是
我们全都变成了这个庞大的自动机的助理，也就是无产阶级，而这也是《政治经济学批判大纲》（简称《大纲》）所关系到的议题。
（《自动人的负人类学之原理》）
对此，德勒兹也曾指出：
马克思还做了什么，除了标记出终点前的最后阶段——无产阶级阶段？
（《尼采与哲学》第 5 章
也就是说，无产阶级一词已经不再是一个社会阶级，而是一个阶段，是更普遍的人的状况。在我们身边，就随处可见这样一种感性（sensibility）之无产阶级化的状态：
他的生活非常忙碌、疲惫，当然就更不可能对自己的感性提出各种生产的可能，
“而且这部分人是占绝大多数的”。（斯蒂格勒）
手机前伛偻的“前倾者”（La pencheuse）
这些绝大多数的人，就是自动人，就像神经学家兼动物学家罗伯特·瑟波斯基（Robert Sapolsky）所描述的那样：
默认设置（By default）是大多数人深陷平庸的重要原因。既然体制就这样，也就没人想要变革。
你只是自动运行的机器，并没有行使自由意志。
（《行为》吳芠译，八旗文化出版社，2019 年
走向脱自动化的未来
当牛马这样的家养动物取代人类成为能量提供者时，人类并不感到沮丧。相反，他们欣然接受了得以从累人的重复劳动中解脱。当蒸汽机取代动物时，同样的事也发生了；它们甚至更有效率，需要的人的关注也甚至更少。 许煜《ChatGPT：机器的末世论》
之后，打字员抵制过电脑，马夫抵制过汽车，出租车抵制过网约车。
恰恰相反，斯老师号召我们去成为新的“超人”，也就是脱自动化的逆熵人（disautomatized neganthropos）。
逆熵，不合时宜地逆水行舟：这样一个计划，是显得越来越不可能了，却又因此而更为迫在眉睫。对此，我有这么几点体认：
首先，就要在我们身处的这条自动化流水线上的“效果因的霸权”（《技术与时间·卷四》§19）下造反，把眼睛从目的地上移开。
这方面，梭罗是模子：他去一趟镇上，连马车都不坐，却保有了独行两公里、甚至驻足观察半天路边动植物的欲望——“慢慢走，欣赏啊。”
也就是说，使世界得以复魅（re-enchants）。
而德勒兹也给出了功效类似的一味解药：以纯声光（pure optical-sonore）图象来阻断自动程序。
我在原则上禁掉自己使用电梯这样的自动装置的权利，也已经多年了。不得已搭了一次，也总想着把懈怠的这口气练回来，不能少挨一鞭子。
其次，即便 AI 这个副驾驶（co-pilot）或者说僚机（wingman）强到可以接管人的工作，我们也仍然不能完全“在驾驶中睡着”，再不济也要对不可避免的人工愚蠢留一个心眼。
哈佛大学商学院新的研究也证实了这一点：AI 作为技能平衡器，有助于增效；但对 AI 来说，不同任务的难度是不同的，而且其输出会趋于同质化，因此，在某些任务中，依赖 AI 的人表现更差，例如用高质量 AI 的招聘人员变得懒散、粗心，而且在判断力上变得不够熟练，错过了一些优秀的申请者，决策也比用低质量 AI 或根本不用 AI 的招聘人员更糟。
所以，研究告诉我们，了解人工智能的边界和局限性，才能实现正确而多样的结果。
那么，人机到底应该怎么合作？
研究给出了两种有效的模式——半人马（Centaurs）和赛博格（Cyborgs）。前者强调分工，根据人和 AI 各自的优势来分配任务，而后者则深度整合人和 AI，使其在完成同一任务的不同部分时紧密协作。
来源：《哈佛商业评论》
第三，也是最重要的一点，就是用个人的深度学习压倒自动机制背后的“深度学习”技术。
最近，有朋友考了几次科目三都没过。我就安慰他：也许再过两年，大部分人都会开不过算法，以至于不让脱离 AI 保姆而上路了。
那么，还要学车吗？
影片《终结者：黑暗命运》里汽车厂厂妹在逃避机器人追杀时，第一次摸到方向盘的后面，就以一脚油门给出了响亮的回答：
我可以学！
当她第一次在厂里见到机械臂时，同事说：这是未来。
本来，她是会因为机械手臂而失业的，却对技术有着强健的态度：工具再称手，也只是提高了为人的门槛。
而在我认识的老司机里，我爸的技术是算得上号的了。有时，他和导航意见相左，但还是会按自己的开，然后就开错了。可这有什么大不了的呢？人类智能能把任何遭遇都变成正反馈，作为经验在下次叠加到导航的人工智能上，从而使脑中的地图越来越精密，越来越符合现实的地图。
最糟的，是无脑开车，导航指哪就哪，开完印象全无。这就使得识路的能力退化了。
所以，学车，是应该和车做朋友，来用这项药理术（pharmacology）来照管/治疗（法语 soigner）自己和他人，就像我们不得不蹒跚学步，来更好地照管自己那样。
坐在自动车里吹空调，被送到另一个地方继续玩手机，那只是在一种克分子式的（molar，简单理解为“一坨”就行）装配中，在规定的时间、规定的地点交待规定的东西——又给云平台上交数据了。
相反，我们应该让斯宾诺莎的问题——“物体（body）能做什么”时刻悬在头上，启发我们去疯狂地装配出自己的变形金刚。
领读
706 热点读书会（In-the-loop reading club）是什么？
我们消费的信息和摄入的食物一样重要。它影响着我们如何理解自己在世上的位置，以及如何理解他人。 伊凡 威廉姆斯（Evan Williams），推特和 Medium 网的联合创始人
讨论规则
自组织
对参与者的发言不设严格时限，请自行把控。参与者也可以互相提醒，比如做出暂停手势。只要有人提问，就继续聊。
同时，参与者有权保持沉默。不懂就问
如果对主持人的引导不满，随时欢迎发问、质疑，以及展示与读书会主题相关的新产品、新技术，但请尽量避免频繁打断他人发言、随意评判/扣帽子、抛出过多术语而不解释。对读书会选定的文本，谁读得越多越深，谁就越有发言权。 快思慢想 领读人介绍全文时，会用最快的速度推进，尽量一句话说清一个概念。之后细读时，越纠缠于一个词，读得越陌生越好。 求同存异 读书会力求在结束时形成一份小小的公共意志，甚至宣言，可以由同意的参与者联署，作为社区或个人行动的参考。
▼ 第 3 期 爱的终结
▼ 第 2 期 阿以冲突
▼ 第 1 期 AI
▼ 点击“阅读原文”，阅读文本
