论文 | 人工智能生存性风险：演变、分层与应对

文摘 2024-12-18 15:20 上海

论文发布

发表期刊 | 《智能物联技术》2024年第5期

作者

姚旭 复旦发展研究院青年副研究员

张傲 复旦大学国际关系与公共事务学院学生

摘要

人工智能生存性风险的讨论由来已久，人工智能生存性风险的基础是通用人工智能乃至超级人工智能的实现，但这一过程仍有阻碍。人工智能生存性风险的现状大多源于目标偏差，已引发算法和就业等一系列社会问题。人工智能生存性风险的终局被认为可能导致人类灭绝，其中包括推动战争形态和环境气候的变化。为应对人工智能生存性风险，需要统筹好人工智能的发展和安全，强化人工智能发展中的治理和技术软硬兼施的安全手段，推动国际人工智能安全治理合作，进一步打破发达国家和发展中国家的治理鸿沟和治理隔阂。

关键词

人工智能；生存性风险；发展安全

全文链接

https://mp.weixin.qq.com/s/ZXn8uLH-Ap7TBBLIJ1vwdA

来源｜《智能物联技术》2024年第5期

排版 | 蒲云涛

猜你喜欢

姚旭：数字贸易迎来重磅利好

姚旭辛艳艳：中国数字平台企业出海正当时

姚旭：马斯克起诉OpenAI——一场因人工智能未来路线展开的博弈

姚旭张傲：美欧英签署全球首个人工智能法律公约，AI监管“全球化”进程加快

往期回顾

复旦发展研究院

为了中国发展，永做一个追梦人。

最新文章

上海市社联2024年度跨学会学术活动：少子老龄化社会的城市挑战与应对

TikTok“禁令”进入倒计时：最高法院最终结果会如何？

回顾 | 当代古典小说戏曲研究四人谈

日央行利率决议出炉，第三次“按兵不动”？孙立坚：经济修复中的谨慎权衡与挑战

许闲：商业健康保险在多层次医疗保障体系中的几个核心问题

日央行利率决议出炉，第三次“按兵不动”？孙立坚：经济修复中的谨慎权衡与挑战

许闲：商业健康保险在多层次医疗保障体系中的几个核心问题

全球最严社交媒体禁令出台，16岁前孩子不碰社交媒体可行吗?

From Chancay to Shanghai: new voyage of common development

吴心伯：这三十年，我看到了三个不同的美国

预告丨“宏观金融理论与政策Seminar”第197期：北向资金持股对中国中小企业业绩表现的影响研究——以创业板、科创版为例

回顾 | 第四届复旦大学普惠保险与创新论坛暨《2024年城市定制型商业医疗保险（惠民保）知识图谱》发布会

全球 “超级央行周” 来临，国内政策动向如何？孙立坚：明年料推出财政货币扶持组合拳提升消费能级

论文 | 人工智能生存性风险：演变、分层与应对

新书推荐｜论文集《老年照护：中国与北欧的情境与跨学科研究》

喜报 | 我院李琴、杨秋怡老师获2024年度上海市哲学社会科学规划课题立项

Call for papers | Young Scholars Conference 2025

上周最需关注的6条中美资讯

2025年中国经济怎么干？中央经济工作会议释放哪些信号？

吴心伯：明年大国关系有三个看点

金融学术前沿：解读化债政策

新书推荐丨陈引驰：《文脉的演进：中国古代文学史讲录》

特朗普的“相扑选手发言人”：张振熙被任命为白宫通讯主任背后的传播意涵

珀杜是谁，为何商业精英被提名美外交前哨即驻华大使？

姚旭：数字贸易迎来重磅利好

传播中心举办《非虚构写作：公众故事与作者访谈》出版座谈会

第六届复旦-拉美大学联盟年会在阿根廷布宜诺斯艾利斯举行

江天骄：印度对金砖支付体系的观望态度及原因

复旦发布报告：2050年60岁以上人口超三成，为老备老我们准备好了吗？

2024复旦-拉美大学联盟理事会召开

复旦-ZEW中国经济调查第135期报告解读：政策发力提高市场活力新经济提升粤港澳协同效应

“四明三千里共治幸福家” 社区治理分享会举办

张端鸿刘虹：2035目标下，“双一流”扩容不应是“名单拉长”

回顾｜出版与近代中国的知识地理学：香港和上海双城记

上周最需要关注的8条中美资讯

姚旭辛艳艳：中国数字平台企业出海正当时

黄之瀚出任首席副国家安全顾问：特朗普政府的“华人面孔”

预告 | “非虚构写作的公共性与专业性”研讨会

姚旭：马斯克起诉OpenAI——一场因人工智能未来路线展开的博弈

预告 | 研究马可·波罗历史形象的档案文献：传统学术与计算技术的融合探索

2024年度上海国内合作交流研讨活动在复旦大学举行

To what extent should human trust AI and machines?

喜报 | 我院刘意博士合作论文入选教育部“2024年度案例研究典型成果”

预告 | “宏观金融理论与政策Seminar”第196期债券型公募基金产品赎回、国债抛售与折价

预告 | 1942：温德尔·威尔基的环球之旅

复旦发展研究院发布《全球数字经济发展动力暨大国博弈背景下中国数字平台企业海外发展研究报告》

吴心伯对话谢淑丽：美国大选后的中美关系走向

预告 | 海外访问学者讲座90期：情境中的信念：文化契合对幸福的影响

王帆莫鸿飞：打造全球中药产业链

预告｜“金融学术前沿seminar”第209期：解读化债政策 & 限制劳动力流动对企业投资和创业的影响

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉