说说杰弗里·辛顿

科技   2024-10-08 23:58   江苏  

今天是国庆节后的第一天,也是非常特别的一天。

白天的时候,举国上下都在讨论股票,到了下午,突然冒出了诺贝尔物理学奖的新闻,再次掀起了一股热浪。

如大家所见,今年诺贝尔物理学奖的得主,是美国普林斯顿大学的约翰·霍普菲尔德(John J. Hopfield)和加拿大多伦多大学的杰弗里·辛顿(Geoffrey E. Hinton)。这两位,都是AI领域的专家。尤其是辛顿,在AI学术界可以说是教父级的存在。

在2024年之前,其实小枣君也不知道辛顿这个名字。今年,因为我也开始接触和学习AI,写了一些关于AI的文章,才对他有所了解。

辛顿是一个非常牛逼的人。他的人生极具传奇色彩。

他出生于学术世家(1947年),本科拿的是心理学学位(1970年),毕业后迷失方向,还去做了一段时间的木匠。后来,跌跌撞撞,才返回学术界,师从爱丁堡大学的一位教授,研究神经网络,拿了人工智能博士学位(1978年)。

看过我写的《人工智能简史》的同学,可能还记得,人类人工智能起步于1950年代,第一代创始人是图灵、麦卡锡、明斯基等几位大佬。但是,人工智能学术界早期走的路线,是错误的(符号主义、专家系统)。更要命的是,明斯基还把神经网络这个正确的路线,早早地否定掉了。

到了1980年代,专家们在老路上走不通,才重新想起了神经网络(机器学习)这条路。

1982年,约翰·霍普菲尔德(就是这次获得诺贝尔奖的另一位大佬)提出了Hopfield网络模型(其实也不算他原创,这个模型原型早期由其他科学家提出过)。1986年,戴维·鲁梅尔哈特、杰弗里·辛顿、罗纳德·威廉姆斯等人共同发表了一篇名为《Learning representations by back-propagation errors(通过反向传播算法的学习表征)》的论文,提出了反向传播算法。这两项成就,给神经网络(机器学习)奠定了重要基础,也算是把人工智能拉到了正轨上。

1986年的辛顿,已经39岁了。他其实一直都活在家族阴影中。他老爸长期PUA他,说他达不到自己的成就(剑桥大学教授,昆虫学家)。可惜,他老爸死的早,辛顿也没办法证明给他老爸看。

到这里,故事并没有结束。

二十年后,也就是2006年,辛顿又爆发了。他发表了重要的论文《Reducing the dimensionality of data with neural networks(用神经网络降低数据维数)》,提出深度信念网络(Deep Belief Networks,DBNs),将人工智能带入了“深度学习”时代,解决了当时困扰AI已久的学习效率问题。这个创举可以说是给AI领域雪中送炭。

2012年,杰弗里·辛顿和他的学生伊利亚·苏茨克沃(Ilya Sutskever)和亚历克斯·克里切夫斯基(Alex Krizhevsky)参加了ImageNet每年举行的大规模视觉识别挑战赛(由李飞飞发起),利用深度学习模型大获全胜,再次震惊学界。

后来师徒三人获得了很多荣誉和财富,成立的公司还被谷歌高价收购了。

去年年末那场受到全球瞩目的OpenAI“政变风云”中,试图解雇公司CEO萨姆·奥特曼的那个OpenAI前首席科学家,就是他徒弟之一的伊尔亚·苏茨克韦。

总而言之,辛顿绝对是AI领域的顶级大佬,两次重大贡献彻底改写了AI的发展走向,拿奖也是名至实归。等有机会,我会写篇详细的辛顿个人传记,给大家看看。

现在唯一的疑问其实是——

辛顿之前拿了图灵奖(2018年),为啥这次拿的是诺贝尔物理学奖?这是把AI也当作物理学了?隔壁物理学的圈子,都已经炸锅啦!



鲜枣课堂
学通信,学5G,就上鲜枣课堂! 我已加入“维权骑士”(rightknights.com)的版权保护计划。
 最新文章