2024年诺贝尔物理学竟然颁给了AI领域,获奖者是人工智能方面的科学家:杰弗里·辛顿 (Geoffrey Hinton)和约翰·霍普菲尔德(John Hopfield)
获奖理由是:他们利用了物理学方法来寻找信息的特征,构建了现代人工智能的基础。
不管这理由充不充分,至少说明AI已经成为万众瞩目的焦点。
今天就来讲讲众所不周知的辛顿和那些改变历史的人。
首先,霍普菲尔德采用物理诺学中自旋系统能量的方式,提出了Hopfield神经网络,而辛顿则在此基础上历经五十年,最终让人工智能浪潮席卷全球。
人工智能教父辛顿
时间回到2012年6月,谷歌公司公开了一项名为“谷歌猫”的研究成果,他们模拟人脑学习的方式,搭建了一个神经网络系统,用算法来识别网上视频中的“猫”。而这些大量的视频,不做任何标记,让模型自己学习“猫”的特征。
谷歌在背后动用了各个数据中心共16000块CPU进行训练,最终以74.5%的准确率,惊动了业界。
这个项目的发起人叫吴恩达,项目接近尾声时,他离开了谷歌,同时请来了自己的老师接替他完成,这位老师就是已经64岁的辛顿。
时年64岁的辛顿
辛顿看了“谷歌猫”项目的技术细节,意识到他的学生可能用错了神经网络。
于是他在“谷歌猫”项目结束后,开始行动起来,找来了自己另外两个学生——IlyaSutskever和Alex Krizhevsky,(两人都是出生于苏联的犹太人,前者极具数学天赋,后者擅长工程实现)合作创建了一个新的卷积神经网络。
而后马上参加了ImageNet图像识别比赛,结果以高达84%的识别准确率夺得冠军,更令人吃惊的是他们只用了4块GPU 。
学术界和产业界惊呆了!
辛顿他们3个人加4块GPU,是如何干掉谷歌一个团队外加16000块CPU的。
此时,最想知道答案的,恐怕是一位还在休产假的斯坦福华人教授,也是ImageNet项目的发起人李飞飞,她意识到人工智能的历史有可能在这一天被改写了。
出生于北京的她,从普林斯顿毕业后,研究方向是计算机视觉与机器学习,就是让机器能够像人一样,理解图像的意义。
传统方式是将“猫”的图像,抽象成简单的几何图形,以此降低识别难度。
传统方式,将“猫”的图像抽象成简单的几何图形,再识别
但现实中有可能会出现各种奇形怪状的“液体猫”,这让李飞飞意识到,问题可能不是出在算法上,而是没有足够的高质量数据,让机器来学习。
各种奇形怪状的“液体猫”,让抽象成几何图形变得没有意义
李飞飞从孩子认识世界的过程中,得到了很大的启发:如果小孩每转一次眼睛,代表机器拍下一张图片,那么一个3岁小孩就已经学习了上亿张图片。
如果有足够多的标记好的数据,让机器每看一张就和背后标记的答案核对一次,那么经过足够多次的学习,机器就能和小孩一样理解“猫”的含义。
但哪儿来这么多标记好答案的图片呢?
依靠亚马逊众包平台,李飞飞团队完成了人工标注的庞大工作量。
李飞飞团队通过众包平台,召集了来自167个国家的48940位合作者,共同完成了大量图片的标注工作
2009年,包含了320万张图片的ImageNet数据集诞生了。三年后,这个数量达到了1500万张。李飞飞用6年时间大力出奇迹,弥补了数据的短板。
而此时,辛顿和他的两位学生出现了,他们的AlexNet在经典的卷积神经网络基础上,摒弃了此前的逐层无监督方法,对输入值进行有监督学习。也就是每次识别后,比对与李飞飞人工标注的答案之间的差异,进行反馈优化,大大提高了准确率。
同时,卷积核会在输入图像上滑动,所以无论被检测物体在哪个位置,都能被检测到相同的特征,大大减少了运算量。算法的瓶颈终于突破了,此时只剩下最后一块拼图,那就是算力。
辛顿和他的两位学生创造的图像识别产品AlexNet
长期被认为不务正业,只能作为游戏显卡的GPU,却被辛顿看好,因为他发现GPU有超强的并行运算能力,与深度学习高度适应。类似于:GPU能同时进行很多次简单的四则运算,而CPU只能一次做少量难度很高的函数运算。这就是4块GPU,就能抵得上16000块CPU的原因。
终于,算力被另一位美籍华人给补上了,他的名字叫黄仁勋。
英伟达(NVIDIA)公司首席执行官黄仁勋
算法、数据与算力三驾马车终于齐备,之后就是大家熟悉的故事了:深度学习的繁荣、GPU与英伟达的崛起、AlphaGo的称霸、大模型的诞生、ChatGPT的横空出世、AIGC时代的到来。
这个改变历史的时期将我们现代熟悉的人工智能发展都串联了起来
当一个跨时代的伟大产物出现时,往往意味着早有一群开拓者默默前行了许久,如果从辛顿1972年进入爱丁堡大学算起,这位AI教父已经在人工智能领域鏖战了五十余年。
每一次科技浪潮汹涌而来时,背后都有一些闪耀的光芒,值得被更多人知道。
原点阅读入驻小红书啦!
每天更新科普小知识
↓ 识别二维码直达主页 ↓
点个关注哟!
欢迎加入清华原点阅读和小伙伴们微信读者群
请联系微信mashuo577044(添加时请注明来意)