对话图灵奖得主、“AI教父”:AI安全不能靠企业“自觉”

文摘   2024-09-06 19:45   四川  

01

对话图灵奖得主、“AI教父”

AI安全不能靠企业“自觉”,

防范AI失控需要类似核武器监管的国际条约



加拿大计算机科学家 Yoshua Bengio


8月底,AI巨头OpenAI和Anthropic与美国AI安全研究所(AI Safety Institute)达成了一项历史性协议,允许美国政府在其发布全新的重要AI模型之前先进行严格的安全测试。针对这两家领先的AI初创公司所达成的协议以及AI领域的安全和未来发展问题,《每日经济新闻》记者专访了图灵奖获得者、被称为“AI教父”的加拿大计算机科学家Yoshua Bengio,进行深入解读。


Yoshua Bengio是深度学习领域的先驱之一,与Geoffrey Hinton和Yann LeCun共同获得了2018年的图灵奖,被业界誉为“深度学习三巨头”。


Bengio表示,确保AI系统的安全开发和部署,需要解决两个挑战。


首先是技术层面,我们需要开发能够在AGI(通用人工智能,相当于普通人类水平)或ASI(超级人工智能,即超越人类水平)阶段仍然有效的安全技术,包括对危险能力的评估、检测和缓解,以及设计可控且保证安全的AI系统。


其次是政治层面,我们需要全球范围内的协调,以确保所有国家和公司在开发最强大的AI系统时,遵循最佳的安全实践,避免人类失去控制的灾难性后果。并且,要达成最佳的安全和治理协议,以确保某些人不会滥用AGI的力量为自己谋利,而牺牲其他许多人的利益。


Bengio认为,AI安全不能靠企业“自觉”。在科学技术层面上,我们需要更好的风险评估方法。在治理和政治层面上,全球需要提高对AI风险的认识,尤其是对灾难性风险的认识。另外,全球需要对开发最强大AI系统的AI实验室进行国家监管,引入有关其AI安全计划、工作和事故报告(包括举报人保护)透明度,以及遵守国家和国际AI安全标准的激励措施。



(扫码阅读原文)


02

姜荣春:

优化区域开放功能分工 开辟高水平开放新路径



对外经济贸易大学国家对外开放研究院副研究员,经济学博士姜荣春


党的二十届三中全会《中共中央关于进一步全面深化改革、推进中国式现代化的决定》指出,开放是中国式现代化的鲜明标识。全会就现阶段如何完善高水平对外开放体制机制提出明确要求,其中专门针对优化区域开放布局进行了具体阐述,做出了系列部署和安排,提出要“加快形成陆海内外联动、东西双向互济的全面开放格局”。


对外经济贸易大学国家对外开放研究院副研究员,经济学博士姜荣春,综合考虑新时代推动高水平对外开放的实践要求和最新进展,撰文系统分析了,东部沿海地区发力的方向,中西部和东北地区出现的新趋势新特征,以及自由贸易试验区和海南自由贸易港试点提供的有效路径。



(扫码阅读原文)


03

焦永利:城市人文与经济如何相互激荡彼此生发



中国浦东干部学院教授、公共政策创新研究中心主任 焦永利


在刚刚落幕的第四届公园城市论坛上,如何传承历史文脉、推动城市人文经济发展也是论坛讨论的重要内容。《锦观智库》就“人文”何以润城、兴业、惠民,专访中国浦东干部学院教授、公共政策创新研究中心主任焦永利。其提炼了以下三个观点:


第一,对于城市而言,文化基因具有稳定性,它们在很大程度上决定着城市的性格气质。实现文化基因的传承和有序转化是避免“千城一面”这一现代城市病的根本之策。城市的发展需要从人文历史中汲取灵感,延续历史文脉,同时也要结合各类现代化的新需求新技术,以确保城市形态既彰显自身文化特色,又能满足实际发展需求。


第二,人民城市,一切围绕“人”,营城逻辑全面转向人本逻辑。从“人”的角度出发,精神文化需求正在成为鲜明的发展方向,蕴藏着巨大的发展潜力。高质量的文化产品和服务就是当前十分重要的消费活力增长点。扩大内需、激发消费,既要拓展物质性消费,更要提升精神文化型消费。


第三,对于成都而言,就要将深厚的文化底蕴贯穿于公园城市示范区建设全过程,同步实现人文符号向经济价值的转换。



(扫码阅读原文)


04

王怀勇:法治是最好的营商环境


8月29日,在2024年中国网络文明大会网络执法推动优化营商环境分论坛上,来自企业、媒体和学界的代表围绕“依法治理涉企侵权信息”举行圆桌对话。



西南政法大学党委常委、副校长 王怀勇



王怀勇接受记者采访时指出,“法治是最好的营商环境,网络执法也是遏止我们所说的网络谣言、网络暴力等不文明现象最重要的力量。例如,涉企侵权信息可能会直接导致涉案企业的荣誉,包括知识产权的侵害,企业创新活力和经济利益都会受到相应影响。从另外一种角度来说,可能还会对整个市场秩序产生影响,也会进一步破坏营商环境。”


王怀勇认为,“网络执法是遏制网络暴力和网络谣言等不文明现象的一种重要力量,对于维护企业的合法权益,特别是营造营商环境和提升网络文明水平都意义重大。”



(扫码阅读原文)


05

博物馆,创新美育正在生发


数字化系统的引进,使得博物馆在人流控制与观展布局上更加得心应手,“数实融合”场景也频频现身博物馆行业,云展览、数字文博等极大地丰富了博物馆陈列展演方式。



费俊:科技是推动艺术语言发展的主要动力之一



中央美术学院设计学院教授 费俊


更多的展览以数字技术为媒,让艺术作品拥有了更强的交互性、即时性和可变性等特质,从而为观众带来崭新的审美体验。“数字艺术之所以受到人们的喜爱,其重要原因在于它强大的交互性。通过交互设计,艺术品不再‘高冷’,而是可以让观众参与其中,甚至成为作品的一部分。”在费俊教授看来,科技是推动艺术语言发展的主要动力之一,而科技与艺术相结合所带来的沉浸式体验,无疑能让孩子们在获取知识的同时收获快乐、激发想象。



杨杰:文化的数字化生存与传播已经成为博物馆建设的重点



中国传媒大学教授 杨杰


“博物馆里丰富多彩的文化活动滋养我们的心灵。伴随时代的脚步,博物馆不断呈现参观空间审美化与体验设施舒适化的特点。融媒时代,科技赋能博物馆,文化的数字化生存与传播已经成为当下博物馆建设的重中之重。”中国传媒大学教授杨杰。



李康化:人人便参与、可体验、有收获



上海交大媒体与传播学院教授 李康化


作为文化空间和社交媒介的博物馆如何创新展览、拥抱技术,让场馆吸引人流,让美育浸润心灵,激发人民对美好生活的向往,是一个需要不断探索的话题。李康化教授分享了其见解和思考:


第一,策划破题,让展览主题“更鲜明”。“专题展览围绕某一特定主题或历史事件展开,这种纵深度和集中性使得展览更具吸引力。”


第二,技术破壁,让展陈环境“更沉浸”。李康化说,如今,以“云展览”“云直播”“云讲解”等为特征的博物馆教育新业态已然形成,技术赋能博物馆展览成为新时尚、新常态,博物馆教育实践深度融入新质生产力的发展浪潮。“数字技术不是简单地把‘线下’转为‘线上’,更是为博物馆立足自身教育理念,开创了更加广阔的实践空间。


第三,传播破圈,让展馆流量“更澎湃”。李康化指出,当前,文化与旅游呈现加速融合的趋势,“逛博物馆”成了人们文化休闲生活的必选项。文旅的聚合效应是人文经济的生动展现,博物馆以文塑旅、以旅彰文,实现了声量与流量的“双赢”。



宋燕:博物馆承担着重要的社会教育功能



南京市博物总馆副馆长 宋燕


“博物馆承担着重要的社会教育功能,是广大青少年探索历史、感受文明、体验文化的重要课堂。”宋燕说,这些年来,她和同事不断探索拓展博物馆教育功能的实现形式,引导青少年走进博物馆学习、实践、体验。



竺照轩:艺术是一种成长方式



中国美术学院社会美育学院院长 竺照轩


“对孩子而言,‘艺术’是一种成长方式,在美的教育之下培养健全的人格,是推动社会进步与发展的重要动力。”竺照轩表示。


(扫码阅读原文)




·END·



编辑 王钟婧玥
整理自 成都日报锦观新闻、成都商报-红星新闻、每日经济新闻
封面图片 Yoshua Bengio个人网站


CONTACTS

联系我们


邮箱丨cmgadvisory@163.com




三色智库
成都传媒集团旗下新型媒体智库集群,以“全球视野、传媒本色、链接为王”为原则,主攻在城市、传媒、文化产业等领域提供智库服务。
 最新文章