诺奖得主Wilczek：从物理到智能

学术 2024-11-01 08:02 北京

加星标，才能不错过每日推送！方法见文末插图

撰文 | Frank Wilczek

翻译 | 胡风、梁丁当

2024年诺贝尔物理学奖授予了约翰·霍普菲尔德（John Hopfield）和杰弗里·辛顿（Geoffrey Hinton），“以表彰他们在人工神经网络机器学习领域的奠基性发现和发明”。由于这一主题超出了物理学的传统范畴，这次颁奖在物理学界引发了不少抱怨的声音，线上线下都有。我倒是认为这次的选择是恰当的，甚至是富有启示性的。下面我就来说说我的看法。

2024年诺贝尔物理学奖颁布给约翰·霍普菲尔德 (John Hopfield)与杰弗里·辛顿（Geoffrey Hinton），以表彰他们“在人工神经网络机器学习方面的基础性发现和发明”。

人工神经网络的历史根源可以追溯到20世纪40年代初。当时，人们刚刚确立大脑是由一个个的细胞（即神经元）构成，并且这些神经元通过电脉冲相互交流。真实的神经元种类繁多，结构也极其复杂。沃伦·麦库洛克（Warren McCulloch）与沃尔特·皮茨（Walter Pitts），为了深入探索神经元如何形成思维的奥秘，进行了大胆的简化,定义了理想化的神经元，使之具备了便于数学分析的特性。他们构想的这种“神经元”，能够接收并响应来自多个源头 “脉冲”信号，当这些由实数表达的信号累积到一定程度，这些“神经元”便会自主地发出脉冲。这样的神经元能够相互连接，形成具有特定功能的网络。这些网络能够将输入的脉冲信号，经过中间神经元的处理，最终转化为输出的脉冲信号。

麦库洛克和皮茨证明，他们的人工神经网络能够完成通用计算所需的全部基本逻辑处理操作。他们的工作受到了现代计算领域几位伟大先驱的注意与赞赏，包括艾伦·图灵、克劳德·香农和约翰·冯·诺依曼。然而，主流的实用计算却朝着另一个方向发展。在这里，基本的逻辑操作直接通过简单的晶体管电路实现，并按照明确的指令（即程序）进行。这个方法无疑取得了举世瞩目的巨大成功，为我们构筑起了今日这个充满无限可能的崭新的网络世界。

然而，人工神经网络并没有被完全遗忘。尽管在逻辑处理上，这种网络略显复杂和笨拙，但与标准的晶体管电路相较，它们具有一个巨大的潜在优势，即它们具有灵活的调整能力。具体而言，我们可以通过调整不同输入通道的相对重要性（即“权重”）来改变神经元的输入输出规则。

神经生物学家曾提出一个著名理论——赫布法则，该法则指出在大脑发育与学习的过程中，那些经常被使用的神经元之间的连接会日益加强，而较少使用的连接则会逐渐衰退。简而言之，就是“同时激活的神经元会紧密相连”。这引发了一个美妙的问题：人工神经网络是否也能像大脑那样，通过经验进行学习？也就是说，我们能否直接用数据来训练它们，而无需程序员详细指导每一步操作呢？

这个美妙的问题极具挑战性。在20世纪50年代，弗兰克·罗森布拉特（Frank Rosenblatt）开创性地提出了“感知机”的概念，在当时引起了巨大的轰动。感知机实质上是麦库洛克-皮茨神经元的一种物理实现，但它拥有可调整的输入权重。比如：一个用于识别印刷字母“T”的感知机，在接收到不同方向且可能存在一些污点定模糊度的印刷字母数字化输入信号时（其中，印刷图像中的黑色像素被设定为1，其余部分则为0），能够对该印刷字母是否为“T”做出判断（1代表是，0代表否）。罗森布拉特提供了一个调整不同像素输入权重的详细规则，可以用来强化正确的识别和抑制错误的识别。因此，通过不断练习，感知机的识别成功率可以得到提高。

弗兰克·罗森布拉特（Frank Rosenblatt）博士在“感知机”上工作，他将其称作第一台“具有原创思想能力的机器”。

感知机成功学会了识别一些字母及某些特定模式。然而，在1969年，马文·明斯基（Marvin Minsky）和西摩·帕帕特（Seymour Papertt）共同撰写了一本极具影响力的书籍——《感知机》，他们在书中论证了，即便是面对稍微复杂一些的模式，感知机也显得力不从心。在这部极具影响的著作问世后，神经网络领域的研究陷入了多年的沉寂。

在20世纪80年代初，霍普菲尔德发表了一系列开创性论文，巧妙地将磁物理学的思想融入到神经网络的研究中，使这一领域重新焕发了生机。霍普菲尔德敏锐地洞察到固体中的自旋与神经网络中的神经元之间存在着深刻的数学相似性：一个自旋的“输入”是其相邻自旋的方向，而其“输出”则是自己的自旋方向；两个自旋“神经元”之间连接的强度，则可以类比于自旋间相互作用的强度。（简单起见，我们可以将自旋想象为一个只能够指上或者指下的系统，这样其输入和输出就可以用标准的0或1来表示。）这种类比启发了一种全新的构建神经网络的方法，使其能够“学习”更加普遍的模式。具体来说，通过精心设计自旋之间的相互作用，我们可以使得目标自旋分布模式所对应的能量达到最低。从数学上来看，这实现起来很容易。当我们输入的自旋配置与目标模式存在偏差时，系统会接受到一种“反馈”信号。这种反馈以力的方式作用在自旋上，促使它们自发地调整自身的指向，最终稳定在最符合目标模式的配置上。根据霍普菲尔德的理论，人们成功构建出一种联想记忆系统，它能够从模糊、不完整或嘈杂的记忆信息中，提取出准确的记忆内容。

与感知机相比较，霍普菲尔德的神经网络可以学习更多的模式。然而，这种神经网络面临着其他严重的局限性：一旦试图向网络中输入过多的模式，系统就会崩溃；此外，这些网络只能学习那些输入过的模式。

带着重新点燃的乐观情绪，一小群充满激情的科学家们勇敢地接受了设计功能更为强大、效率更高的机器学习神经网络的挑战。杰弗里·辛顿是其中的领军人物。在过去的几十年间，他为神经网络的发展做出了众多创新性贡献。辛顿的早期研究深受物理学的影响，这一点在他所命名的玻尔兹曼机和吉布斯机上可以明显看出。这两种网络正是受到19世纪统计力学先驱数学思想启发而构建的。在这些网络中，辛顿推广了霍普菲尔德的理论，赋予网络一种（概念上的）几何结构：将“传感器”神经元置于一侧，而“信号”神经元则置于另一侧，并使神经元之间的相互作用具有方向性。随后的改进则更多地源于实际应用中提高性能的需求，而不是基于现有的物理学（或生物学）原理。但可以预见，这些改进将在不久的将来对物理学和生物学领域产生深远的影响。无论如何，对于“深度学习”网络的发展，辛顿或许比其他任何人都做出了更多的贡献。正是他的贡献，使得机器学习在科学技术领域成为了一个极为强大且不可或缺的工具。

霍普菲尔德的神经网络、杰弗里·辛顿的玻尔兹曼机与受限玻尔兹曼机。

可以说，在它们需要的时候，人工神经网络利用了物理学；而反过来，神经网络也为物理研究带来了强大的助力。一个典型的例子就是分析高能加速器碰撞的数据，这一应用自20世纪90年代以来便已开始。在大型强子对撞机中，质子碰撞后通常会产生数十种不同的粒子。探测器会记录下这些粒子在时空中的轨迹、穿越物质时的能量变化、运动如何受磁场影响、不稳定的那些运动轨迹如何分叉成新的轨迹，以及其他相关的物理数据。然而，这些数据并无法直接揭示出这些粒子或粒子群中，究竟哪一个是K介子，或者哪些粒子是源于希格斯玻色子的衰变。为了从探测器记录的海量数据中识别出这些不同的粒子，物理学家需要借助人工智能神经网络的强大模式识别能力。毕竟，面对数万亿个复杂事件所生成的巨大数据量，人类的分析能力和耐心都显得极为有限。

更广泛地讲，神经网络是我们的绝佳合作者，它不但会从复杂数据中寻找规律，比如识别湍流中的涡旋，还会在海量数据中捞取那些引人注目的“针”，比如在外星智慧搜寻（SETI）项目中。值得一提的是，今年的诺贝尔化学奖就颁给了在蛋白质几何结构和设计领域的研究，而这项研究正是大量运用了神经网络技术。这很可能只是众多此类应用中的一个开端。

如何让这些新兴的智能体拥有更加旺盛的好奇心，不仅成为我们问题的解答者，更能主动抛出新的疑问，这将是未来我们面临的一项艰巨而有趣的挑战。在与ChatGPT进行了多次愉快的交流后，我愈发觉得，硅基伙伴的时代已经悄悄到来，未来，我们或许还将见证硅基合作者、教师，甚至诺贝尔奖获得者的诞生。

作者简介

Frank Wilczek，美国理论物理学家，现任美国麻省理工学院物理系教授。在普林斯顿大学读博士期间，他和他的导师 David Gross 因发现了粒子物理的强相互作用理论中的“渐近自由”现象而获得2004年诺贝尔物理学奖。

本文经授权转载自微信公众号“墨子沙龙”，原题目为《从物理到智能：当诺奖得主遇上诺奖得主 | Wilczek's Multiverse (1)》。

最新文章

只吃肉还能更健康？原始人饮食法的是与非

伟大科学发现究竟出于偶然还是必然？

矩阵乘法为什么是这样定义的？

被实验室的镊子刺了一下，她在 9 年后死亡

吴宝珠：伽罗瓦的不朽遗产

无人潜艇崛起，或许意味着航母时代的结束

67名受试者7人致癌！曾经最贵的药物曝出高风险

当松林中出现艳丽的红色，这不是美景，而是一种致命的威胁

「展卷」专栏目录

他22岁便摘得一颗数论明珠，还是数学和科学的多面手

AI浪潮下，更要呼唤思辨精神丨展卷

百余名天文学家联名呼吁叫停星链发射；小时候少吃糖，成年后更健康 | 科技周览

自行车尾灯为什么没有灯泡也能亮？

从近视宅男买早餐到彭罗斯逆矩阵（1）：矩阵乘法｜N文粗通线性代数

诺奖得主Wilczek：从物理到智能

『返朴』2024年10月文章汇总

不发论文的时候，科学家们都在晚上做什么？

李政道与玻尔的故事

沃尔夫奖得主何川再发重磅研究：破译一个致癌关键突变

数学家是怎么知道自己错了的？

约当——被无视的量子力学与量子场论奠基人

杰弗里·辛顿：从小语言到大语言，人工智能究竟如何理解人类？

「展卷」专栏目录

为反驳伽莫夫，他从核物理学家转向天文学

粒子与集体行为

现代物理学，是一场穿越光的旅程丨展卷

如何知道自己没有英年痴呆？痴呆症的种类远比想象中多

国内抑郁患者近亿，高学历男性死亡率更高；他们在6千年前发明了第一个轮子 | 科技周览

乔治·帕里西的科学画像：复杂系统和其他

餐巾纸上画的一张图，让他获得诺奖并成为“大科学之父”

专访吴令安&汪凯戈：耄耋将军思千里，铿锵木兰阅九州

笼目材料，凝聚态物理学家的团宠！

从“筷子夹火箭”到洗澡调水温，都离不开这门学问

关停并转！这30多门课在哈佛教不下去了

独家对话诺奖评委：授予辛顿物理学奖引发对AI风险的关注，是好的副作用

菠萝为什么要用盐水泡？你看过的答案可能都是想当然

困扰数学家一个多世纪的难题，AI从生物学中找到线索

李约瑟坚定来到抗战中的中国，他看到了什么？

如今价格飞涨的黄金，都是从什么地方来的？

发表首篇论文10年后，近半学者“退圈”；站立办公有损健康，也无法抵消久坐风险 | 科技周览

埃尔德什追忆乌拉姆：他是神童，也是神叟

如何鉴定82年的拉菲产地“正不正宗”？

为何美国的科研既能得诺贝尔奖，又能产生高科技产品？

为什么我国没出现马斯克和Jumper：八个问题

千万别给科学家擦黑板

火箭推进速度上限的估算

专访数学家张寿武：曾经我最想解决的是ABC猜想

深度学习解决计算量子化学基本问题，探索物质与光如何相互作用

青史不容乱弹琴——抗战期间清华大学50毫克镭南运的故事

被传“预定诺奖”的核钟，有望改写定时标准！

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉