为什么要建立人工智能安全监管制度

政务 2024-11-06 17:20 上海

《中共中央关于进一步全面深化改革、推进中国式现代化的决定》提出：“建立人工智能安全监管制度。”这是党中央统筹发展与安全，积极应对人工智能安全风险作出的重要部署。

人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的“头雁”效应，正在对经济发展、社会进步、国际政治经济格局等方面产生重大而深远的影响。人工智能安全是我国总体国家安全观诸多领域中的重要组成部分。习近平总书记高度重视统筹人工智能发展和安全，围绕发展和安全辩证统一关系、筑牢国家安全屏障等作出一系列重要论述，强调要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。

第一，建立人工智能安全监管制度，是应对人工智能快速发展的必然要求。经过60多年演进，全球人工智能进入新一轮爆发期，以大模型和生成式人工智能为代表的通用人工智能取得突破性进展，成为人工智能发展史上新的里程碑。人工智能作为影响面广的颠覆性技术，也可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题，将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。必须高度重视人工智能可能带来的安全风险挑战，通过加强监管进行前瞻预防与约束引导，最大限度降低风险。

第二，建立人工智能安全监管制度，是实现高质量发展的必然要求。新时代新征程，高质量发展成为全面建设社会主义现代化国家的首要任务，而人工智能是发展新质生产力、实现高质量发展的重要引擎。以人工智能推进高质量发展，要吸取人类历史上“先发展、后治理”的深刻教训，充分认识和评估人工智能这一颠覆性技术可能存在的难以预料的安全风险，摒弃以牺牲安全为代价的粗放增长，通过加强人工智能安全监管，实现“边发展、边治理”，加强对人工智能战略研究、前瞻预防和约束引导，准确把握技术和产业发展趋势，充分认识和评估每一项“颠覆性创新”可能存在的漏洞或盲点并及时加以处置，确保人工智能安全、可靠、可控。

第三，建立人工智能安全监管制度，是参与和引领人工智能全球治理的必然要求。人工智能攸关全人类命运，各国普遍重视人工智能安全监管。美国制定人工智能安全标准，欧盟制定人工智能安全监管法规，英国举行全球首届人工智能安全峰会，呼吁通过国际合作解决人工智能风险。我国是人工智能大国，不断颁布政策法规和国际立场文件，积极同各主要国家就人工智能安全开展沟通交流、务实合作。2023年10月，习近平主席提出《全球人工智能治理倡议》，倡导以人为本、智能向善的普遍共识，弘扬平等互利、尊重人类权益的价值理念，为各方普遍关切的人工智能发展与治理问题提供了建设性解决思路，为相关国际讨论和规则制定提供了蓝本。我们要继续发挥负责任大国积极作用，加强引领，不断为保障人工智能健康发展提供中国方案，反对在人工智能上搞“小院高墙”，促进各方加强技术共享，努力弥合智能鸿沟，共同促进全球人工智能有序安全发展，确保人工智能始终朝着有利于人类文明进步的方向发展。

来源：新华网

“网信上海”是上海市互联网信息办公室官方微信公号，权威发布上海市互联网治理信息，及时回应上海市热点网络舆情事件。

http://mp.weixin.qq.com/s?__biz=MzI1MDE2OTEyNQ==&mid=2651559901&idx=2&sn=631f8465f724847284a5dbc983ec01eb

网信上海

政策解读、发布信息、提供服务

推进“模塑申城”，全国首个卫生健康行业语料库顺利发布！

深耕“软硬实力”，推进全球算力合作！国际算力标准与应用研讨会在沪举行

我国将于2027年全面实现5G规模化应用 5G个人用户普及率将超85%

数据跨境政策系列宣讲会（普陀站）召开

《2024年全国“宪法宣传周”工作方案》

剑指电诈！公安部等四部门联合印发《惩戒办法》

新能源车时刻收集数据，车主隐私如何保护？

构建更为成熟、更具竞争力的产业生态！陈吉宁调研区块链产业集聚区

“算法向善”，平台应有所为

工信部等十二部门联合印发《5G规模化应用“扬帆”行动升级方案》

关于开展“清朗·网络平台算法典型问题治理”专项行动的通知

国家数据局印发《可信数据空间发展行动计划（2024—2028年）》

遇见未来之光！世界互联网大会乌镇峰会迈向“新十年”

国家互联网信息办公室关于发布第十七批境内区块链信息服务备案编号的公告

关于向社会公开征求《国家数据基础设施建设指引（征求意见稿）》意见的公告

上海启动2025年网络文明建设优秀案例征集展示活动

亮剑浦江 | 护民生权益，促合规经营，上海市网信办、市市场监管局组织“自动售货机”运营企业开展个人信息保护普法培训

丁薛祥出席2024年世界互联网大会乌镇峰会开幕式并发表主旨讲话

市委网信办举办第四十三期网络安全技术沙龙

全球数据跨境流动合作倡议

上海市生成式人工智能服务登记信息公告（11月19日）

大道致远踏层峰——共同推动构建网络空间命运共同体迈向新阶段

国家互联网信息办公室发布《移动互联网未成年人模式建设指南》

【提示】推进数据产品知识产权登记存证试点，这个《暂行办法》12月8日起施行

上海，何以“内外兼修”

关于侵害用户权益行为的APP（SDK）通报

6G进展如何？离我们还有多远？专访6G推进组负责人

听说过AI造谣吗？

上海市政府常务会议召开加快人工智能赋能医学创新

探营2024全球6G发展大会技术研发成果巡展！6G天线、卫星互联网、AI phone…亮点速看→

存在隐私不合规行为！这13款App要注意

学习贯彻习近平总书记关于城市工作重要论述理论研讨会在沪举行，李书磊陈吉宁致辞

AI搜索引擎重塑信息获取方式

意向成交800.1亿美元！第七届进博会落幕

三周年，一起重温《个人信息保护法》

上海政务新媒体2024年10月榜单发布

全市理论宣讲团队学习贯彻总书记重要回信精神座谈会举行探索新路提升宣传宣讲工作实效

进博密码｜400多项“新秀”集中亮相，小故事等待回响

媒体该怎样报道突发事件？这部法律明确了→

上海市互联网信息办公室关于报送2024年度汽车数据安全管理情况的通知

“人民的城市——上海打造人民城市最佳实践地”主题展开幕，陈吉宁龚正黄莉新胡文容等市领导参观

【营商环境】多元化解商事纠纷，护航法治化营商环境！来看浦东、黄浦、长宁、嘉定、松江、青浦区如何“破解”→

新华网三连评，警惕“网购套路”

进博的热度上海的温度 “网络名人看上海”活动走进进博会

习近平对社会工作作出重要指示

为什么要建立人工智能安全监管制度

你会在无意中传播网络谣言吗？

李强同第七届中国国际进口博览会参展商、采购商代表座谈

2024年数字化绿色化协同转型发展优秀案例拟入选名单公示

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉