因AI研究获得今年诺贝尔物理学奖的辛顿，一直担忧AI技术会控制一切。
文 | 邱慧
编辑 | 丁东
有意思的是，人工智能最近的高光时刻，都是诺贝尔奖（以下简称“诺奖”）给的。
当地时间10月8日、10月9日，瑞典皇家科学院宣布了2024年诺贝尔物理学奖、2024年诺贝尔化学奖的获得者。
前者的获奖者是美国普林斯顿大学的约翰·霍普菲尔德和加拿大多伦多大学的杰弗里·辛顿；后者的一半被授予美国华盛顿大学教授大卫·贝克，另一半则被共同授予英国人工智能公司谷歌DeepMind公司的丹米斯·哈萨比斯和约翰·乔普。
究其共性，在表彰内容里，都提及了获奖者在人工智能（以下简称“AI“）技术领域的研究和贡献。在业内看来，AI技术加持下的科学研究是现阶段的新潮流，AI与不同学科之间的交叉、相互赋能也是大势所趋，这或许也代表了新技术浪潮下，学科交叉融合的新风向。
这四位诺奖获奖者中，与AI研究最为紧密的是辛顿。事实上，在AI领域，辛顿早已名声大噪。他是2018年图灵奖得主——这是计算机领域的国际最高奖项。在业内，他还被尊称为“AI教父”。
但正是这位AI技术领域领军性的人物，从去年5月离开谷歌公司后，就持续公开表露自己对AI技术会给人类社会带来危害的担心，并多次宣扬“AI威胁论”。
在接到诺奖官方电话时，辛顿正在加州一家廉价、没有网络、电话信号也不好的旅馆里，他直言：我完全没想到，甚至还担心是接到了一通整蛊电话。
“AI教父”获得诺奖
诺奖颁给计算机科学家，的确是学界“没想到”的。在按照惯例对诺奖得主的预测名单里，学界并没有将辛顿列入。就连辛顿自己也说，得知获奖消息时，“非常震惊”。
对于辛顿，大众更为熟知的故事版本是：他在大学任教，在AI研究领域深耕了半个世纪，培养出数位之后在AI领域有着卓越成就的学生。OpenAI联合创始人、被称为“ChatGPT之父”的伊利亚·苏茨克韦尔就是其得意门生。2012年，64岁的辛顿受邀入职谷歌，成为谷歌最年迈的实习生，并在之后的十余年里，帮助谷歌开发AI技术。
但鲜有人了解的是，他与物理学一直有着链接。辛顿是反向传播算法和对比散度算法的发明人之一，也是深度学习的重要推动者。他曾是剑桥大学唯一一个同时学习物理和生理学的学生，且他与同伴共同发表了一篇题为《通过反向传播误差来学习》的论文，首次将反向传播算法应用于多层神经网络并且证明了这种方法对机器学习是有效的。
之后，他们利用统计物理学的工具，以Hopfield网络为基础，开发了一种新的神经网络“玻尔兹曼机”，再通过不断拓宽，持续进行神经网络与机器学习相关的研究。这是他参与的学习算法之一。
另一种由他参与的学习算法则是反向传播算法，这是一种让神经网络学习任何东西的方法。“反向传播算法带来了AI应用的激增，以及识别图像、理解语音和处理自然语言的能力。这不是玻尔兹曼机做的，而是反向传播算法。”辛顿解释道。
但人们始终疑惑的是，尽管辛顿在神经网络以及AI领域研究成果丰硕，成绩斐然，但2024年诺贝尔物理学奖为何要垂青于计算机学科？
获奖后，辛顿在接受《纽约时报》采访时也说道，Hopfield网络及其进一步发展的玻尔兹曼机是基于物理学的。神经网络发展的那个阶段确实在很大程度上依赖于物理学的想法。
“但用于构建今天使用的AI模型的实际上是一种不同的技术，称为反向传播，这与物理学关系不大。”辛顿觉得，“如果计算机科学有诺贝尔奖，我们的工作显然会更合适，但没有。”
诺奖官方新闻通报中介绍指出，现在意义上的“人工智能”，实际上就是指使用人工神经网络的机器学习。
上述通报称，这项技术最初的灵感来自大脑的结构。在人工神经网络中，大脑的神经元由具有不同价值的节点来表示，这些节点通过连接相互影响，如同“突触”，可以增强或弱化，网络由此实现训练。
诺贝尔物理学奖委员会在一份声明中也对此作了释疑：今年的两位诺贝尔物理学奖获得者利用物理学工具开发了当今强大机器学习的基础方法。
诺贝尔奖评奖委员会认为：“今年物理学奖得主取得的突破建立在物理科学的基础上。他们为我们展示了一种全新的方式，让我们能够利用计算机来帮助和指导我们，应对社会面临的许多挑战。”
坚定的AI技术担忧者
尽管评委会将今年的诺贝尔物理学奖授予给辛顿，以表彰其在人工神经网络实现机器学习的基础发现和发明，但在获奖后接受媒体采访时，辛顿仍然坚定地表达了他对AI技术发展会控制一切的担忧。
从2023年5月之后，辛顿就不断强调AI技术可能带来的风险。彼时，他刚从谷歌离职。
2023年5月，辛顿离开谷歌，并频繁地公开讨论他对AI技术的担忧，以及他对AI发展方向的看法。用辛顿的话来说，他之所以离开谷歌，就是担心人类无法阻止AI做坏事，为了“公开地谈论AI的危险”。
同年，AI领域现象级产品ChatGPT问世后，辛顿也开始活跃于媒体镜头前，公开分享自己对AI技术发展的看法。当然，更多是对慎重对待AI技术的呼吁。
在辛顿看来，AI技术的危险不仅仅只是会导致大量工作岗位消失，而且会导致人们没办法知道到底什么才是真实的，又或者说，是发展到一定程度的AI技术有可能采用对人类有害的手段来实现被设定的目标，并且AI之间可能会因竞争关系而失控，甚至人类对这类失控束手无策。
就连在诺奖连线的现场，他仍觉得“愧疚和后悔”。辛顿说：“后悔有两种。一种是因为你做了一些明知不该做的事情而感到内疚；另一种是你做了一些在同样情况下会再次做的事情，但最终结果可能并不好。我的遗憾是第二种。我担心这种做法的后果是，比我们更聪明的系统最终会掌控一切。”
但就在媒体问及，因帮助创造了一项令自己都现在担心会给人类带来严重危险的技术而获得了诺贝尔奖，有何感想时，辛顿反倒觉得，获得诺奖或许会让大众对自己发出的未来式危险更加认真。
获奖后，辛顿任教过的多伦多大学在线上为其举办了表彰和庆祝活动。视频里，他还提到了AI领域的明星公司OpenAI。在他看来，随着时间的推移，OpenAI已经从初创时强调安全性的公司发展更关心利润的公司，“这很不幸。”
