问问斯蒂格勒:禁掉ChatGPT就行了吗?

体娱   文化   2023-04-02 06:06   浙江  

摄于 2019.3.25@中国美术学院教室

又到了斯老师的生日。这次,我翻译了斯蒂格勒的 2019 “风险与开放”研讨班第 3 讲讨论环节的这个视频,算是给他老人家的生日礼。

 精简版

 一刀未剪的足本

2019 年 3 月 25 日的这一讲,正是在 4 年前。那是斯老师最后一年在国美教学,应该也是他去世前开设的最后一个研讨班。
视频中,斯老师回答了 4 个问题。时隔了一场漫长的防疫大战,这些问题的紧迫性却丝毫未减,逼迫着我们去思考。
其中第 3 个问题(精简版 09:37,完整版 22:09)讲到了技术多样性,对 ChatGPT 这项在当下创新式地颠覆了(disrupt)全球社会的大数据(作为巨语言模型)和 AI 技术作了振聋发聩的回应:
今天,在硅谷、也在这里——杭州的阿里巴巴,有些人说社交网络只有一种方式来捕捉数据,而我们说这是错的,这完全是错的,因为大家运用的物理、数学、统计学等的法则没考虑到熵,我们对自己说:存在着熵,所以要创造数据来对抗熵。正是因为如此,才有可能修改技术趋势。于是问题来了,把乐华-古杭(Leroi-Gourhan)的问题变得更复杂了:我们可以有一种熵性的技术普遍趋势,也可以有一种负熵性的技术普遍趋势。这就是我所说的负人类世的主题。

早在 ChatGPT 横空出世之前的这个后福特制时代,社会学家墨里齐奥・拉扎拉托(Maurizio Lazzarato)、安东尼奥・内格里(Antonio Negri)就指出,工作主体仅仅是解码和编码的工作站了。今天的生产中每个方面上的关键,维持财富增长的砥柱,不再是劳动时间,而是科学、信息、一般的知识和语言交往。(维尔诺,《诸众的语法》)
而人工智能的认知智能,更使人的劳动之核心转变为了想象等能力。
许多人在憧憬技术图像社会(弗卢塞尔)的“美丽新世界”了:再也不用花那么多功夫跟人讨价还价了,而是可以舒舒服服地对着屏幕当个甲方,向孙子似的 AI 发号施令,眨眼间,一个可应用的结果就立等可取了。
然而,斯老师却旗帜鲜明地表态说:
(技术)系统要运行起来,就要有一个集体来把持(s'en empare)它。系统不能替代集体。比如说,在脸书(Facebook)的模型中……脸书是替代了集体的,也就是破坏了集体,因而也就破坏了爱若斯与塔纳托斯,也就是说,它创造了威胁着所有人的心理灾难和疯狂。
也就是说,哪怕 AI 再好用,哪怕 ChatGPT 的缔造者——Open AI 公司的 CEO 萨姆·阿特曼(Sam Altman)好心要用 AI 赚的钱来发全民基本收入,AI 也不能替代“我们”,而是要成为我们走向脱无产阶级化(deproletarization)的一道跨栏。

还有许多人咋呼道:搞翻译、写代码,甚至写作这些苦差事交给 AI 就好了,人再也不用学编程这种麻烦事了!
而当斯老师看到别人用谷歌翻译时,他却叹道:哎呀呀,这下就没人学外语了。
有了 ChatGPT,看起来甚至都不用好好学语文了。
可斯老师却坚持说,人必须理解自动化的每一步:
……把使用运算模型让信息处理自动化这件事推向极致,这么做是为了服务于我们这些心智个体的。然而,心智个体首先是有知识的存在者,而没有任何形式的知识可以被简化为对信息的运算处理(后者只是排除了理性的那一知性的分析官能的一种延伸)。我们被知识所塑造,也就是被个体化,前提是知识要靠集体个体化过程来构造,而这些过程是以公共规则为准的,并通过分枝(bifurcations)(它在一个既定的概念场中引发了“范式转换”、“科学革命”以及“认识论断裂”) 形成了跨个体化循环——分枝把认证规则的实施过程给脱自动化了。
斯蒂格勒,《书写的屏幕》
......我们不再向他们(机械学工程师们或生物学工程师们)教授物种变化论(transformisme)是什么、进化论是什么等等了。也就是说他们不再知道他们学科的历史了。当他们不再知晓自己学科的历史后,他们知道的是什么?事实上,他们什么事情都不知道了,只知道干事情。他们有的是技能(compétence)——“skills”,而没有“知识”。这是很实际的,因为随便什么事情都可以让他们做,而他们怎么着都意识不到自己在做什么。我在贡皮埃涅技术大学培养的是工程师,我就对我的学生说:就是这个制造了福岛(事故)。如果某个时候不用重建一种真正的知识,而仅仅是一项技能的话,我们就要好好想一想。
《采访工业性技艺协会的贝尔纳尔・斯蒂格勒:自由软件作为超越当前的经济境况的一个方法》(
L'Interview de Bernard Stiegler d'Ars Industrialis présente le Logiciel Libre comme une manière de dépasser la situation économique actuelle.
也就是说,在 ChatGPT 时代,绝大部分既有知识都是孔乙己的“回字的四种写法”了,必须在众人的起哄声中,重新蘸点很快就会挥发的酒来下笔。而且,再累也要用理性干预算法的“黑盒子”、把握技术的历史,这样才能形成人机联合的环境(associated milieux)。
与此同时,还得对按下的机器按键充满意识,而不是被既定的操作流程牵着鼻子走,或者受冲动的驱使在屏幕上乱戳。否则,自动化很可能走向系统性愚蠢。
更重要的是,只要不改变现行的工业模式,哪怕诞生了被奇点派顶礼膜拜的通用人工智能,也一样会导致下一个“福岛”,甚至更大的灾难。而切尔诺贝利正是知其然却不知其所以然的技术官僚按部就班地照着手册上的标准流程来操作而酿成的大祸:
1980 年,能源技术科学研究与设计院完成了一项保密研究,……清楚地表明,事故……在日常操作中也有可能出现。然而,……能源技术科学研究与设计院没有设计建造新的安全系统,只是简单地修改了一下 RBMK-1000 反应堆的操作指令集。在军用反应堆运作几十年无事故的情况下,能源技术科学研究与设计院和库尔恰托夫研究所的大佬们显然认为,一套精心编写的操作手册足以确保核安全……,只要严格遵循新的操作指令集,人可以和电厂中的机电安全系统一样,做出及时且可靠的反应。
亚当·希金博特姆,《切尔诺贝利的午夜》“四 和平原子的秘密”,鲁伊译,广西师范大学出版社,2021 年

那么,面对 ChatGPT 带来的挑战,到底如何是好呢?
在研讨班上,斯老师举了一个正面的例子:许煜老师用 Python 语言为康德第三批判的研习班“创造了一种来批注康德的《判断力批判》的系统”。
而今,国内最重要的编辑系统——微信公众号在营销的驱动下,功能迭代越来越快,以至于 iOS 版已经可以在公号文中标注下划线了,其他批注功能也指日可待。但尽管如此,我们还是要开辟出建立自己的写读共同体的道路。
甚至,要想更好地把持(s'en empare)AI 的机制,在它的界面输入更有效的咒语(prompt)与它交流,我们人人都应该学一点形式逻辑和 Python 这样的编程。
视频中的第 4 个问题(精简版 20:12,完整版 42:29)直接 @ 了我们的主席和目前被养老金改革搞得焦头烂额的马克龙,喊他们来听课;然后又 @ 国美院长,来一起下斯老师那盘大棋。
现场的观众边听边笑。
为什么大家认定主席们、院长们不会来听?
在之前一届的研讨班上,有个同学说:Loser 才(有闲到)来上研讨班。
从一个方面看,他说得没错。我当时就是刚辞了一份工,自己干的事又没什么起色,才有了长达一个月的闲暇来面聆斯老师的课,最终获得了一些“搞懂概念后巨大的快乐”(陆兴华语)。
德勒兹是这么说快乐和(puissance),以及悲伤和主席们、院长们的权力(pouvoir)的
快乐是由力量所填满的一切。……实现你的力量的时候,你会体验到快乐。……悲伤就是,无论出于什么原因,我和我认为我还能把控的那一力量相分离了。……必须说,任何悲伤,都是由一项权力在我身上产生的效果。实现某物的力量总是好的,这也是斯宾诺莎所说的。……坏的力量,就是最低程度的力量,也就是权力。所谓恶,就是阻止他人做他们所能做的事,也就是阻止别人实现他们的力量。所以不存在恶的力量,只有恶的权力,或许所有权力在本质上都是恶的……
德勒兹,《欢乐》(J as in Joy),收于《吉勒·德勒兹字母表,由克萊尔·帕尔奈采访》(L’Abécédaire de Gilles Deleuze, avec Claire Parnet
后来,著作等身却很长时间都没评上教授的迪迪-于贝尔曼说,他有被这段话安慰到:
我职称上不是教授,三次都没如愿,最后一次是 1997 年,当时我出了 20 多本专著,几乎比同辈人都多,但申请还是没有被接受。……当时我的情绪很不好,但我在看《德勒兹字母表》时,其中关于权力与力量的辩证关系深刻影响了我。有人可以有机地统一两者,我并不是这样的人,相对更倾向于保留力量,弃绝权力。

老师号召我们成为新贵族,与 ChatGPT 新技术带到我们身上的无产阶级化作斗争,正是要

越过力线、超越权力关系,(也)就是把权力褶曲起来,使它自我作用,而非作用于其它力量。“褶皱”是与自身的力量关系,是权力对自身的掌握以及承受(一种“对折”)。

由此,力从互相博弈角斗的状态,转变为一种伦理,即自我创造、审美性的非强制性规则,是对生存方式、生命风格的自我布置。

(于是)力在自身中制造着褶皱,将自身作为艺术作品来雕刻。
德勒兹,《访谈》,页 131~133。


 扫码读视频文字稿

或点击文末“阅读原文”

 点击图片,回顾读书会第 1 期



 点击图片,回顾读书会第 2 期




 点击“阅读原文”,看视频文字稿

迷影日历
看图像、拍图像,是为了离开电影,去更大、更远的地方。
 最新文章