段永朝 | AIGC就是一个人类兴奋的玩具而已

科技 2024-11-07 17:58 北京

作者 | 段永朝 苇草智酷创始合伙人、信息社会50人论坛执行主席

生成式人工智能是一种邀请，邀请我们重新认识媒介、自我与世界。媒介创客行动是对这一邀请完全敞开的全然接纳，正在成为一场关于生存美学的公共幸福社会实验。媒介创客是根植于数智时代基本生态的新物种，具有新的DNA双螺旋分子结构的后人类，强调在人类智识与人工智能的融合、科学技术与文化艺术的交叉、媒介思想与产业实践的贯通中，以心智生产力催生新质生产力。

10月19日，智酷 393 期，中国科学技术大学科技传播系副研究员周慎分享《媒介创客新时代》，北京外国语大学国际新闻与传播系教授展江、新华社国家重点实验室生物感知智能应用研究部学术带头人杨溟、苇草智酷创始合伙人段永朝等参与点评，北京信息社会研究所所长王俊秀主持。

以下根据段永朝老师发言内容整理而成：

今天特别开心的是见到了展江老师，我读过很多展江老师的大部头，见到你的肉身是很难得的。也非常开心能听到周慎老师讲这么完整的东西。的确，我跟俊秀一样，见证了从周慎同学到周慎教授这个过程，这真的是让人非常欣喜的，尽管他迫不及待地想上满汉全席。因为时间所限，如果再给他两三个小时，我觉得他可能会雕刻的更细致一些。

展江老师和杨溟老师提的内容，我是高度认同的。AIGC这个概念提出来之后，我一直是少数派，现在我是极少数派，为什么？因为我对这个词语非常不喜欢，非常讨厌。我认为AIGC会误导一代人，它会把人带到坑里去，我非常不喜欢。尤其加上今年诺贝尔奖也来凑这个热闹，我也觉得非常不理解。本来我觉得这股风应该过去了，没想到今年诺奖又给他们加持了一下。

简单地说，我觉得 AIGC有三宗罪。这就是相当于刚才展江老师说的边界以外的事情，其实严肃的学者内心跟明镜似的，他们都很清楚，但是对大众他们不提这个事儿，所以我把它叫“对大众的三宗罪”。

第一件事情就是计算主义逻辑。我个人认为今天的人工智能背后的计算主义逻辑没有超越1931年。为什么说没有超越1931年？1931年哥德尔定理的出现已经给计算主义的棺材板钉上钉子了，这是定论。这件事情它并没有超越。所以我说的第一宗罪就是，仍然秉持计算主义的人工智能，我认为没有前途。

第二宗罪就是价值中立论破产。价值中立已经忽悠了几代人。为什么法兰克福学派批判技术？我个人认为是批判技术中包含的价值中立论，就是实证主义哲学，认为计算科学可以搞定一切。为什么觉得可以搞定一切？你看科学有模型、有计算，还有可验证、可重复、人人平等，多好？100年前中国的科玄之争，就企图说明这一论断。当时有人问，科学能搞定人生观吗？科学派就说能搞定人生观问题。简直对人类贻害不浅。

所以我个人觉得，价值中立论破产是一个可以鼓掌的事情，从思想领域打破了一个魔咒。在大众传播领域，我们不就是认为科学等于正确吗？前面一加“科学”的冠语之后，就等于给它加持了，就等于认为它就是正确的化身。那你得拿证据来，就像韦伯说的让数据来说话。我认为这都是很扯的事情。今天的数据说话、证据说话、事实说话、科学说话，都不等于真理的全部边界。所以价值中立论破产，在互联网之后越来越明显，但是没有人跟大众普及这个事情。

第三宗罪就是关于意识的起源问题。为什么这是一宗罪呢？因为人工智能领域现在越来越多地说他们能搞定意识领域，但是他们不提意识的起源问题，哲学家大卫·查尔默斯说这是个难问题。甚至我认为到今天为止，查尔默斯就靠提了这一句，名垂青史。他把意识问题分成简单问题和困难问题。他认为起源问题是最难的，而且我个人觉得到现在门都没摸着。起源问题的可以说学派林立，但是众说纷纭。但人工智能、大模型致力于从功能上解释意识问题，从而避重就轻，让人误以为意识的（起源）问题即将宣告解决。

所以这三个问题足够了，不用到七宗罪了，就三个问题足够说明AIGC就是一个玩具，就是一个人类兴奋的玩具而已。在这个问题上，辛顿只是在提醒人工智能的危险性，人工智能的误用、滥用，所以我想用这个来提醒，我们对人工智能是非常无知的。

我略微展开一点关于计算主义的问题。计算理论里面一个非常经典的奠基石是图灵。大学教科书里面写的，我们今天所有的人类计算都可以用图灵机实现，这个叫丘奇-图灵论题。这是写在教科书里的。可是论题是什么意思？什么是thesis？thesis就是说这是个假设，并不是数学定理。但是请问我们跟大众讲过这个问题吗？

今天的计算机原理用图灵论题来支撑，只是建立在假设的基础上。假设是什么意思？假设就是所有的人类计算都可以用图灵机搞定，这就是他的假设原本的意思，他也的确搞定了99%，有1%没有搞定，将来这1%会造99%的反。我们是不是要在这个上去思考问题？

第二，信息论创始人是香农，他的《信息论》原著迄今为止没有中文翻译。他的原文中开宗明义地讲了一句话，他说，我的信息论跟content（内容）没有关系。换句话说，跟我们文科生讨论的meaning（意义）没有关系。因为信息论脱胎于通信理论，它就是个编码，它跟content（内容）没有关系。好了，我们今天的人就拥抱AIGC，扯淡不扯淡？这样能拥抱着了content（内容）吗？在底层逻辑上就不支持。这个问题我个人认为学术界有责任，讲这些课程的人有责任把人工智能的思想史讲清楚，就像展江老师说的，不但要讲边界，还要把它的源流、脉络梳理清楚。

我们今天玩的那套玩意儿，什么算法、大模型、transformer等，搞不定底层的东西。这件事要跟大家说清楚，然后我们才能知道我们搞定什么。所以刚才周慎老师讲的时候，我脑子里浮现的画面，我们搞定的是“吃”，中国的吃文化很发达，我们搞定的是怎么吃，怎么再做一道新菜，怎么用AIGC作个新曲出来。但我们考虑到音乐发展思想史吗？不考虑。因为它是无限的，它有无穷可能，所以我们就满足于整一个呗。

但是背后最重要的问题是什么？就是AIGC里的无限可能性是可编码无限可能性，是可辨识无限可能性，它并不代表无限可能的所有品种。所以我说人类思想史上还有一个恶魔，是数学家康托尔。为什么？因为康托尔发明了集合论。你要注意，他发明集合论以后，他搞定了一个2000年西方思想史上的争论，这个争论就是古希腊哲学里面关于“无穷”的争论，到底是实无穷还是潜无穷？他把这个问题给解决掉了，解决掉了之后，大家就都认为无穷是实无穷。

今天的数学思想要想前进，必须批判康托尔，因为康托尔把西方思想的无穷观念给结扎了，他把潜无穷干掉了，他只剩下了实无穷。当然，他很牛，他提了一个问题，是希尔伯特的二十三个问题的第一个问题，就是康托尔的连续统问题。但是不要忘了，那个连续统问题是建立在“肯定实无穷，打压潜无穷”这个思想的基础上。可是就这一件事情，缔造了我们今天计算主义的数学思想的基础。

这就意味着我们今天玩的所有的花活儿，都建立在一个有限的数学思想的基础之上，看上去好像是无穷空间，其实是同质化的实无穷，而不是异质性的潜无穷。顺便说，在这个问题上，我非常推崇法国思想家巴迪欧。去年我曾就巴迪欧发展康托尔的集合论思想做过一次讲座，可以参考这个内容。

那么，谁敢说（计算理论）这个数学思想就不发展了？所以我觉得AIGC的这个问题就是历史长河中的昙花一现，这件事情很快会有很多人醒悟过来，原来不是这么回事儿，原来它做的东西太有限了，它就是个呼啦圈。当年呼啦圈出来以后全民狂欢了两年，然后立刻偃旗息鼓。因为马上会有人醒悟过来，这些事情远没有这么简单。谢谢。

扫描下方二维码

观看直播回放

——END——

苇草智酷简介——

苇草智酷（全称：北京苇草智酷科技文化有限公司）是一家思想者社群组织。通过各种形式的沙龙、对话、培训、丛书编撰、论坛合作、专题咨询、音视频内容生产、国内外学术交流活动，以及每年一度的互联网思想者大会，苇草智酷致力于广泛联系和连接科技前沿、应用实践、艺术人文等领域的学术团体和个人，促成更多有意愿、有能力、有造诣的同道成为智酷社区的成员，共同交流思想，启迪智慧，重塑认知。

好文推荐

段永朝 | 技术中立论的破产与计算崇拜的兴起

段永朝 & GPT ｜可信知识：世界秩序的基石

段永朝：重访1971，重新认识马斯克

段永朝｜智能技术：“鞋”还是“路”？

段永朝 | 在真正的数学家眼里，数学所描绘的世界生机盎然

http://mp.weixin.qq.com/s?__biz=MzUzMzczMDg4Nw==&mid=2247551709&idx=1&sn=5a7b985779b13d880cbc67839297689c

苇草智酷

让天下思想者连接起来

最新文章

【预告】2024苇草思想者大会（第八届）——重新理解秩序@计算

黄仁勋 | AI在掀起科学革命，机器人时代正在到来

布罗代尔 | 资本、资本家、资本主义——概念的历史

王煜全 | 当下这5年，会定义下一个100年

斯坦福大学发布全球人工智能实力排行榜

嘉宾对话 | 智能的起源、进化与未来（下）

智能教育不同于智能学习

风雨同行400期：集众成智，不酷不谈

朱海就 | 真正的经济学革命

弗朗西斯·福山 | 自由主义与其招致的不满

吴岩陈发祥周融荣｜想象装置理论建构

胡泳 | 人工智能恐慌影响的第一个地方是教室

欧阳江河 | 我一点都不担心，AI取代不了人类写作的那种最根本的需要

【预告】智酷 400 期 | 智能革命后的世界

复旦大学：2024大语言模型的能力边界与发展思考报告

嘉宾对话 | 智能的起源、进化与未来（上）

张永生 | 加快生态文明建设亟须构建新的知识体系和绿色增长叙事

毛寿龙 | 人人皆可创造和捍卫财富的秩序

张一兵 | 国外马克思主义哲学史研究

易棉阳 | 数字经济发展的历史轨迹

上智院与集智科学研究中心等联合发布“科学智能十大前沿观察”：探索“AI爱因斯坦”的无限可能

冯兴元 | 重读哈耶克《通往奴役之路》

刘守英 | 只有建立城乡平等的土地制度乡村才有发展机会

嘉宾对话 | 智能的起源、进化与未来（上）

刘锋 | 智能时代：大统一理论与万物理论的追求、挑战与突破

【预告】智酷 399 期 | 创造财富的逻辑与中国道路

苇草简讯第七十九期 | 苇草智酷学术委员成员动态

岳路平团队太空艺术作品《星空》荣获FFSFA最佳实验艺术奖

陈怡：“太空艺术”流派正悄然出世

高全喜 | 韦伯关于政治成熟的论述究竟有多少思想的效力？

米歇尔·福柯：从康德以来，哲学家们思考的是时间，黑格尔、柏格森、海德格尔，空间遭到贬值

梁宁 | 下一个10年，拼的是关怀

赵毅衡丨建立一个“人工智能符号学”

段永朝 | AIGC就是一个人类兴奋的玩具而已

安筱鹏 | 数据是怎样创造价值的？

【预告】智酷397期 | Techart星河夜谈 · 立冬——解密神秘太空信号（2）

21世纪最大困境，是什么？

李骏翼 | 人机协同：如何成为AI时代的学习主导者

AI 永远无法超越人类？乔姆斯基的惊人预言

【预告】智酷 397 期 | 再见智人：重思大模型与技术奇点

阿兰 · 巴迪欧丨当代世界，哲学的命运陷入危难之中

蔡恒进 | 智能的起源、进化与未来

刘永谋 | 机器人只生产不消费，经济可能运转下去，如何运转下去呢？

Yann Le Cun | 星舰不算科学成就，而是工程成就；现在 AI 全方面不如猫，智力、记忆和好奇心都差得远

贾开｜人工智能争议之一：开源是发展AI的合适路径吗？

聂辉华 | 2024年诺贝尔经济学奖评析：制度的起源、变迁和经济绩效

《2050：未来议程》（2024版）| 问题与回答征集

【预告】智酷 396 期 | 谈古今之变（1）——伯克与法国大革命的启示

蓝江 | 电子生命与一般机体学——智能时代生命导向的本体论

方军 | 大模型热后的冷思考：如何用AI加速知识学习

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉