Datawhale分享
最新:上海交大,来源:人民日报、量子位
一份高校教职任命引发全网热议,冲上热搜第一:
“27岁清华博士任上海交大博导”。
这位年轻的博导名叫张林峰,1997年出生于山东潍坊,今年6月在清华大学交叉信息研究院获得博士学位,现已担任上海交通大学人工智能学院助理教授,博士生导师,领导 EPIC (Efficient and Precision Intelligent Computing))实验室。
张林峰的个人主页显示,他的研究方向包括大模型量化、高效推理等。
此前,已发表一作和通讯作者论文20余篇,谷歌学术被引数超2000次。
其中,最高引论文面向模型压缩方向,不仅单篇被引数过1000,还被同方向大神MIT副教授韩松(2023年斯隆研究奖得主、深鉴科技联合创始人),写进了《TinyML and Efficient Deep Learning Computing》这门课程的Lecture 9《Knowledge Distillation》。
一时之间,各大平台都在讨论这位新晋博导,不仅在知乎浏览量超80万,还在微博热搜第一挂了6个小时,阅读量近6000万。
张林峰的人生经历
张林峰本科毕业于东北大学计算机科学与工程学院,是2019年的优秀毕业生。
本科毕业后,张林峰直博进入清华大学交叉信息研究院,师从副教授马恺声。
读博期间,张林峰发表了20余篇论文,其中有13篇一作。
自2020年起,他还常年担任NeurIPS,ICML,ICLR,CVPR,ECCV,ICCV,AAAI、IJCAI、IEEE TPAMI、IEEE TCSVT、IEEE TIP等众多学术会议与期刊的审稿人。
今年6月顺利毕业时,张林峰同时获北京市优秀毕业生,清华大学优秀博士论文,清华大学启航奖金奖,交叉信息研究院优秀毕业生,并作为学院代表在参与清华大学毕业生座谈会,在毕业典礼上发言。
今年8月,他在香港科技大学(广州)的人工智能学域助理教授、副研究员以及博士生导师胡旭明的邀请下,赴香港科技大学(广州)兼任访问助理教授。
他的主要研究方向为高效的人工智能,包括大模型、人工智能数据集的压缩与加速等,大概如下:
轻量高效的语言/多模态大模型
轻量高效的AIGC模型
数据高效的人工智能
据他个人主页介绍,他的研究成果已在华为、交叉信息核心技术研究院等公司/机构中得到使用。
翻看张林峰的谷歌学术主页,截至本文发稿,他的被引数为2223次。
最高引论文《Be your own teacher: lmprove the performance of convolutional neuranetworks via self distillation》(《通过自蒸馏提高卷积神经网络的性能》)发表于ICCV2019,也就是张林峰大四的时候。
他是论文一作,同时这篇论文也是他博导马恺声的最高引论文(doge)。
这篇文章提出一种自蒸馏方法:使用模型的深层来蒸馏浅层。
该方法将目标CNN按深度和原始结构划分为几个浅层部分,在每个浅层部分后设置一个由瓶颈层和全连接层组成的分类器(仅在训练时使用,推理时可移除)。
训练时,所有浅层部分及其分类器作为学生模型,通过蒸馏从最深层部分(视为教师模型)获取知识。
在显著提高CNN性能的同时,训练时间也更短。
这篇论文首次证明了知识蒸馏中的教师模型并非必需,推动了无教师知识蒸馏领域的发展。
《人民日报》微信公众号今早也发布了一篇介绍张林峰的推文。
其中写道,毕业时,张林峰放弃了多家企业给出的百万薪资,选择到上海交通大学人工智能学院任教,开展科研与教育工作。
张林峰表示:
我觉得做科研是一件很好玩儿的事。
有一个好老师去引导是非常重要的。在清华时,我的导师就曾经很好地引导了我的科学之路。我也想为更多的同学营造一个有趣、有意义的科研环境。
本人回应近日关注
对于这几天在网上受到的关注,张林峰透过人民日报也做了一些回应。
他表示,
AI也是很年轻的学科,年轻人是AI研究的主力军,不希望给大家带来年龄焦虑。
作为一个做科研的人,因为“年轻”被大家关注到,会感到有些不安。
未来,希望可以让更多人因为科研成果认识我。
此外,他还透露之后他研究方向仍聚焦在AI,希望在大模型发展道路上探索一条高效发展方式。
参考链接:
[1]http://www.zhanglinfeng.tech/
[2]https://xuminghu.github.io/
[3]https://www.tsinghua.edu.cn/info/1175/97093.htm
[4]https://mp.weixin.qq.com/s/l1_rWfwkh1vDCgMD5HSTyQ
[5]https://mp.weixin.qq.com/s/t4ofA8sbYEoD8EXpuBB_gQ
[6]https://hanlab.mit.edu/courses/2024-fall-65940