科技大佬来访沪 | Amnon Shashua教授谈人工智能的现状:机遇、局限与危险

文摘   2023-09-18 17:30   中国香港  





2023年9月12日晚上,以色列计算机科学家、耶路撒冷希伯来大学计算机科学教授兼主席、Mobileye总裁兼首席执行官Amnon Shashua教授受上海交通大学智能网联电动汽车创新中心(下简称“中心”)邀请在上海交通大学李政道图书馆作了题为“人工智能的现状:机遇、局限与危险”的专题讲座。




Amnon

Shashua



Amnon Shashua是人工智能、计算机视觉、自然语言处理等领域的全球知名专家,是2020年丹·大卫奖(Dan David Prize)人工智能领域获奖者,以及2022年汽车名人堂(Automotive Hall of Fame)年度出行创新者奖得主。


Amnon Shashua创立并领导着四家应用人工智能技术的公司:Mobileye、OrCam、AI21 Labs,以及以色列首家数字银行One Zero。这些企业涉及汽车、辅助可穿戴设备、金融科技等行业领域。


2023年3月22日,Amnon Shashua教授更在耶路撒冷被以色列国家教育部授予以色列最高公民荣誉 —— 以色列终身成就奖。


颁奖典礼 - 微博@Mobileye


该奖设立已有70年,旨在表彰艺术、文化、商业和科学领域取得卓越成就以及对以色列社会做出终生贡献的个人。


Amnon Shashua能受此表彰,是因为其对以色列科技行业做出了开拓性贡献,对汽车安全和应用人工智能产生了全球性影响,同时积极投身慈善事业。





本次的专题讲座,上海交大先进技术产业研究院院长兼中心顾问委员金隼、中心主任杨明以及中心师生共同出席此次活动。


领导致辞


致辞环节中,中心主任杨明向全体人员隆重介绍了Amnon Shashua教授,作为自动驾驶领域的先驱和Mobileye、OrCam、AI21 Lab、One Zero等企业的联合创始人,其在学术界和工业界取得众多有影响力的成果,将助推中心发展再上新台阶。


Amnon Shashua教授精彩演讲


在随后的讲座中,Amnon Shashua教授首先系统回溯了人工智能发展史,深入浅出的介绍了人工智能发展的三大重要标志:深度卷积神经网络、深度增强学习、Transformer。同时他通过对LLM的使用体验来解读当前AI发展遇到的问题,尤其是针对ChatGPT给出负面反馈的问题,提示我们在使用AI时,要考虑其潜在的风险。


最后,他总结了目前通用人工智能所具备的能力、潜在的危险,并讲述自己在提升人工智能安全方面的研究工作进展。讲座现场气氛热烈、干货满满,师生们就感兴趣的话题与Amnon Shashua教授进行了更深入的交流和对话。


中心老师秦通、陈东尧参与现场互动


讲座结束后的聘任仪式中,杨明与Amnon Shashua互赠纪念品,双方表示对未来的合作充满期待。Shashua教授是学术与产业跨界的榜样,他的加盟将为中心未来的发展提供更多的动力。


互赠纪念品


本次讲座不仅开拓了中心师生们的知识视野,而且激发了他们探索先进科技成果的高度热情。


学生感悟


      


Amnon Shashua教授的讲座开拓了我们的视野,为我们在提升智能车安全领域的研究提供了高屋建瓴的指导。

大语言模型的出现确实极大地提升了人工智能的智能水平,为实现通用人工智能的潜力带来了希望。但是我们也必须保持警惕,并认识到在这一领域面临的一些挑战。

这次讲座让我了解到AI对齐这个方向,在不久的未来,我们最大的瓶颈可能不是AI不够强大,而是人类没有能力监督强大的AI。

这次讲座中让我印象最深刻的是关于ChatGPT给出负面反馈的观点,如果ChatGPT给出负面反馈的概率不为0,那么总有合适的提示能够使之给出负面反馈的概率为1。这提示我们在使用AI的时候,要考虑AI潜在的风险。

Shashua教授的讲座对我们的研究方向有很重要的启发作用,可以借助对齐的方式来引导自动驾驶做出更加安全的决策。

过去的十年,是深度神经网络从诞生到家喻户晓的十年,但ChatGPT无法成为像牛顿、爱因斯坦一样用“理论”解释“现象”的科学家。而且,目前ChatGPT作为“Digital Assistant”也能被轻易地愚弄,仍然存在很多缺陷。


本文转载自


上海交通大学

智能网联电动汽车创新中心

&

Mobileye



以色列驻上海总领馆
文化推广、产业介绍、经济合作、活动安排
 最新文章