独家对话AI教父Hinton:回应获诺贝尔物理学奖的一切|投资人笔记

文摘   2024-10-09 12:30   上海  


作者|Xuushan,编辑|蔓蔓周




AI教父得诺奖后的24小时。


诺贝尔物理学奖颁给了两位AI大牛!


人工智能顶尖研究员、多伦多大学名誉教授Geoffrey E. Hinton与普林斯顿大学的John J. Hopfield共同获得了2024 年诺贝尔物理学奖。获奖理由为“因推动利用人工神经网络进行机器学习的基础性发现和发明”。


诺贝尔官网写道,两位诺贝尔物理学奖得主利用物理学工具开发出的方法,为当今强大的机器学习奠定了基础。John Hopfield发明了一种联想记忆,可以存储和重建图像和其他类型的数据模式。


Geoffrey Hinton发明了一种可以自主查找数据属性的方法,从而执行诸如识别图片中特定元素等任务。
Geoffrey Hinton
“获奖者的工作已经产生了巨大的效益。在物理学领域,我们将人工神经网络应用于广泛的领域,例如开发具有特定属性的新材料,”诺贝尔物理学奖委员会主席Ellen Moons说道。两位获奖者将分享价值1100万瑞典克朗(810,000 英镑)的奖金。
自从离开谷歌之后,Hinton一致致力于让人们看到AI快速发展的“危害性”一面。
在一家网络信号不好的快捷酒店房间内,这位刚刚诞生的诺贝尔奖得主接受了多家外媒的采访,分享了他获奖之后的感想,也回应了有关“物理学奖”的争议,以下是基于原文基础上进行的编译,enjoy~


恭喜恭喜。当您听到今天早上的新闻时,您的反应是什么?
Hinton:我非常震惊、惊讶和震惊。我从来没有想到过这一点。
神经网络是计算机技术。这与物理学有何关系?
Hinton:霍普菲尔德网络及其进一步发展而来的波尔兹曼机(Boltzmann machine)都是基于物理学的。霍普菲尔德网络使用能量函数,波尔兹曼机使用统计物理学的思想。因此,神经网络发展的这一阶段确实在很大程度上依赖于物理学的思想。
但实际上,构建如今使用的 AI 模型所用的技术是一种不同的技术,称为反向传播。这与物理学关系不大。
玻尔兹曼机和反向传播有什么关系?
Hinton:目前,两者之间没有太大联系。它们是关于如何让神经网络运行的两种替代理论。早期,我曾设法利用玻尔兹曼机“预训练”反向传播网络,将它们结合起来。但人们不再这样做了。
预训练是什么意思?您能用读者能理解的语言来解释吗?
Hinton:这让我想起物理学家理查德费曼获得诺贝尔奖时说的话。一位记者问他:“费曼教授,您能否用几分钟的时间解释一下您为何获得诺贝尔奖?”费曼回答道:“听着,伙计,如果我能用几分钟的时间解释清楚,就不值得获得诺贝尔奖了。”
可以肯定地说,玻尔兹曼机对人工智能来说是一条死路——研究转移到别处了?
Hinton:我认为这个想法就像是一种催化剂。催化剂能帮你跨越障碍——即使它不是最终解决方案的一部分。
玻尔兹曼机就像一种催化剂。它帮助我们克服了“如何训练深度神经网络?”的障碍。它使训练深度神经网络变得更容易。一旦我们学会了如何训练深度神经网络,我们就不再需要玻尔兹曼机了。
您是否直接与约翰·霍普菲尔德合作过这些想法?
Hinton:没有。我读过他的论文。但我的主要合作者之一Terry Sejnowski与Hopfield共事过,并在Hopfield的指导下获得了博士学位。
您获得这个物理学奖奇怪吗?
Hinton:如果有计算机科学领域的诺贝尔奖,我们的工作显然更适合获奖。但是,没有这样的奖项。
这是一个很好的表达方式。
Hinton:也算是一种暗示吧。
是的,也许我们需要一个计算机科学诺贝尔奖。无论如何,您因帮助创造了一项您现在担心会给人类带来严重危险的技术而获得了诺贝尔奖。您对此有何感想?
Hinton:获得诺贝尔奖可能意味着人们会更加重视我。
当您警告未来的危险时,会更加重视吗?
Hinton:是的。
您认为您的研究成果所帮助开发的技术潜在意义是什么?
Hinton:它将与工业革命相媲美。但它不会在体力上超越人类,而是在智力上超越人类。我们从未体验过比我们更聪明的事物是什么样的。这项技术将彻底改变医疗保健等领域,带来“生产力的巨大提高”。但我们也不得不担心一些可能出现的不良后果,尤其是事态失控的威胁。我担心,最终的后果可能是比我们更智能的系统将掌控一切。
您是否后悔自己帮助创造这项技术?
Hinton:后悔有两种。一种是因为你做了一些明知不该做的事情而感到内疚;另一种是如果你做了一些在同样情况下你会再次做的事情,但最终结果可能并不好。我的遗憾是第二种。在同样的情况下,我还会这么做,但我担心,这种做法的总体后果可能是,最终比我们更聪明的系统会掌控一切。


参考链接:

  • https://www.nytimes.com/2024/10/08/technology/nobel-prize-geoffrey-hinton-ai.html

  • https://edition.cnn.com/2024/10/08/science/nobel-prize-physics-hopfield-hinton-machine-learning-intl/index.html




独家对话Ilya Sutskever的灵魂八问,有关SSI的一切|投资人笔记

Get Rich

点赞+在看,搞钱稳赚!


硅兔君
50万创投人关注的硅谷科技风向标
 最新文章