赛智产业研究院院长赵刚：人工智能现代化治理 ——《人工智能的发展和应用》第五讲
文摘
财经
2024-08-22 09:55
江苏
近日，贵州省人大常委会第三十期“人大讲坛”在贵阳举行。赛智产业研究院院长、北京赛智时代信息技术咨询有限公司CEO赵刚博士应邀授课，为各位委员们讲授《人工智能的发展和应用》。基于赵院长深入浅出的演讲内容，我们精心编纂了五篇系列解读文章。本篇文章是这个系列的最后一讲，将聚焦于人工智能的现代化治理，深入探讨这一前沿领域的治理策略。系 | 列 | 文 | 章 | 目 | 录
以下文章是第五讲正文：
一、国家鼓励人工智能创新发展的政策
从国家层面看，国家出台了一系列人工智能发展政策，加强人工智能发展引导和治理。习近平总书记强调，“我国经济已由高速增长阶段转向高质量发展阶段，正处在转变发展方式、优化经济结构、转换增长动力的攻关期，迫切需要新一代人工智能等重大创新添薪续力”；“发展人工智能，将为我国构建现代化经济体系、实现高质量发展提供重要支撑”；“人工智能是引领这一轮科技革命和产业变革的战略性技术，具有溢出带动性很强的‘头雁’效应”；“中国高度重视人工智能发展，积极推动互联网、大数据、人工智能和实体经济深度融合，培育壮大智能产业，加快发展新质生产力，为高质量发展提供新动能”。2017年7月，国务院发布《新一代人工智能发展规划》，对我国新一代人工智能发展的总体思路、战略目标和主要任务、保障措施进行系统的规划和部署。该规划明确了我国人工智能发展的三步走战略目标，并强调了创新体系构建、基础理论研究、关键技术突破、支撑平台建设和智能产业发展等方面的重点任务。2023年，科技部《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》，提出，以促进人工智能与实体经济深度融合为主线，以推动场景资源开放、提升场景创新能力为方向，强化主体培育、加大应用示范、创新体制机制、完善场景生态，加速人工智能技术攻关、产品开发和产业培育，探索人工智能发展新模式新路径，以人工智能高水平应用促进经济高质量发展。2023年10月，中方发布《全球人工智能治理倡议》，围绕人工智能发展、安全和治理三个方面系统阐述了人工智能治理的中国方案，主张以人为本、智能向善、注重发展、伦理先行等理念，推动全球人工智能治理的合作与交流。2024年我国政府工作报告提出，“深化大数据、人工智能等研发应用，开展‘人工智能+’行动，打造具有国际竞争力的数字产业集群”。
人工智能监管应坚持发展和安全并重、促进创新和依法治理相结合的原则，既要采取有效措施鼓励人工智能创新发展，也要实行包容审慎和分类分级监管措施，防范人工智能可能产生的各种风险。人工智能监管有利于划出发展的红线，明确经营主体的责任，更有利于人工智能产业健康发展。人工智能大模型逐步具备人类的智能，对于人工智能的风险监管重点包括价值观对齐、算法歧视、数据安全和个人隐私保护、知识产权保护、虚假信息生成、人工智能的责任认定等多个方面。1．价值观对齐。AI要对齐人类的大脑和模型表示，要对齐人类的道德标准和利益。要遵守机器人的阿西莫夫第一原则，即机器人不得伤害人类个体，相反，它们要保护人类。要确保AI不参与军备竞赛等。2．算法歧视。在数字经济时代，有非常多的数据可以给人工智能系统学习，但是这些数据时常反映了人类数十年甚至几个世纪的偏见。用这些数据训练出来的AI系统也会不可避免地学会人类的这些偏见。例如，谷歌用于自然语言理解的Word2vec语料库中对女性的显著歧视；以白人照片训练出来的人脸辨识AI系统在辨识深色肤色的人种时表现很差；亚马逊用于自动化招聘的AI系统对女性存有偏见；银行的自动信用评比AI系统对某些族群产生偏见；美国法院广泛使用的判决工具COMPAS 被发现存在性别和种族的偏见等。AI监管的重点是算法歧视。3．数据安全和个人隐私保护。AI系统不能违反数据安全、个人隐私保护等要求，不得泄露个人隐私。4．知识产权保护。AI系统必须尊重所学知识的知识产权，获得相关产权人授权。5．虚假信息生成。AI内容生成可能涉及大量虚假信息的产生，包括假图像、假视频、假新闻、假消息等，这些假内容怎么去治理？6．人工智能的责任认定。AI的第一责任在大模型的企业和使用者。有个著名的电车难题，未来AI也会面临这个伦理道德的选择。电车难题本质上是一个利益导向还是伦理导向的问题，一条电车刹车失灵，一边轨道是5个人，一边轨道是1个人，要撞5个人和撞1个人？从伦理角度，两边是一样的，但从利益角度，似乎不一样。那一刻，AI是决定撞5个人还是撞1个人？电车难题，机器也要面对。所以，这是人工智能伦理和责任的问题。另外，人工智能会出现幻觉，没有事实的虚构、妄想或者撒谎，人工智能幻觉怎么去治理？人工智能立法的基本依据是企业是第一责任人，主动承担AI系统的安全责任。欧盟人工智能的立法，是全球首部人工智能领域的综合性监管法规。它围绕人工智能发展，系统提出来相应的一些法规要求，也有对版权保护的方面的很强的要求。欧盟人工智能法案要求所有通用型人工智能系统的开发者都必须满足基本的透明度要求，包括：（1）具有可接受的使用策略；（2）更新训练大模型的最新信息；（3）遵守欧盟版权法；（4）报告用于训练其模型的数据信息。欧盟人工智能法案要求根据4个级别对人工智能系统风险分类，有“系统性风险”的模型将受到额外约束，目前只有OpenAI的GPT-4符合。防范任何人工智能对健康和安全构成威胁，并保护基本权利和价值观，防范禁止有目的地操纵技术，利用分类系统来推断用户种族、宗教信仰等个人信息。欧盟人工智能法案要求彻底记录任何用于训练AI系统如何生成类似于人类作品的文本、图像、视频和音乐的版权材料。内容创作者有知情权，可以决定其作品是否可以被复制并寻求补偿。欧盟人工智能法案要求各国政府只能在公共场所使用实时生物识别监控，防止恐怖袭击等可预见的威胁公共安全的事件以及搜索犯罪嫌疑人等。欧盟人工智能法案是强版权保护的法案。但是，日本提出了弱版权保护的政策。人工智能大模型学习的时候，只要大模型不用于不合法的目的，可以弱版权保护。就是希望先让大模型学习，学习完之后，说明来源。中国出台的《生成式人工智能服务管理暂行办法》是全球首个针对生成式人工智能的政策性文件，明确了本国人工智能产业发展方向和规范。《办法》提出，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：1．算法价值观：坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；2．算法歧视：在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；3．公平竞争：尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；4．公民利益：尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；5．服务透明度：基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。在《办法》指引下，国内主要AI大模型和深度合成服务算法通过备案，陆续向全社会开放服务。
我们比较推荐大家学习《北京市促进通用人工智能创新发展的若干措施》，涉及算力、数据、大模型技术、应用场景、审慎包容监管环境等方面，为各地制定人工智能发展政策提供了借鉴和参考。![]()
图：北京市促进通用人工智能创新发展的若干措施
注：本文系赛智产业研究院原创文章，如转载请标明出处。
北京赛智时代信息技术咨询有限公司(简称赛智时代)是国内知名的数字经济等新兴产业的咨询规划、大数据分析和产业生态体系建设的创新型公司。业务范围涵盖了智库咨询、数据服务、软件平台以及会议培训等方面。其中智库咨询服务依托于赛智产业研究院丰富的行业资源和高端专业化人才等竞争优势，面向政府、园区和企业，提供发展战略与规划、政策研究、招商引资策略研究、智慧城市规划、运营模式研究等现代咨询服务。研究领域涵盖大数据、人工智能、区块链、5G、战略性新兴产业等行业领域。饮鹿网(Innov100)是赛智时代旗下的产业创新创投数据平台，覆盖新兴产业近20万创新型企业，为客户提供创业孵化、投融资等服务。赛智区块链(北京)技术有限公司简称(赛智区块链)，是一家专注于企业级大数据区块链产品与应用服务的高科技企业。 公司地址：北京市朝阳区大屯里317号金泉时代广场三单元2216北京市数字经济战略研究
北京市数据要素市场促进服务（北京市新型数据交易规则体系设计）
北京数据先行区关键机制创建服务
贵州省加速构建数据要素市场培育新兴产业课题研究
国家大数据（贵州）综合试验区实施方案
中国数据服务产业图谱研究
内蒙古自治区大数据中心数据要素市场化规划咨询
保定市数据服务产业发展规划编制
朝阳数据要素市场发展研究
丰台区数字经济倍增发展路径研究
北京市大数据立法数据支撑服务
北京市智慧城市建设协调推进项目
中国算力网络发展研究白皮书
重庆两江新区数字经济发展规划
贵阳市大数据五大新领域（人工智能、量子信息、区块链、物联网、5G移动网络）产业规划
南宁市元宇宙产业创新发展研究
贵阳市数字经济产业招商引资项目评估
智能贵州发展规划
贵州省大数据新领域产业发展指南
北京市大数据应用发展报告
天津市大数据应用场景建设计划
贵州省大数据战略行动计划编制
贵州省“十三五”以大数据为引领的电子信息产业发展规划
丽水市城市大脑开发建设研究
贵阳市新基建“十四五”发展规划
中国数谷顶层设计方案
贵阳市数博大道产业规划
贵阳区块链发展白皮书
贵阳市大数据发展“十三五”规划
贵阳市数字经济发展规划
观山湖区呼叫中心产业园规划
济南新型智慧城市规划
南宁大数据建设工程规划
航天科技车联网产业商业模式研究
阿里云数智化敏捷组织：云钉一体驱动组织转型研究
百度区块链研究项目
实创集团智慧城市业务战略规划
云上贵州集团业务战略规划
饮鹿网精准招商大数据云（平台）是赛智产业研究院联合饮鹿网开发的针对产业招商的最新产品。涵盖大数据、人工智能、区块链、5G、智慧城市、 工业互联网等 30 多个领域，为招商部门、产业主管部门、园区管委会和产业地产提供大品牌招商、产业筛选招商、产业生态链招商、重点产品招商、资本注入式招商、区域一体化协同招商、原籍创业人才招商等招商数据分析服务。
政府提供新兴产业的产业链、企业、技术、投资等数据分析服务的平台，主要为各地发改部门、工信部门、产业分管领导提供产业仪表盘、产业链分析、产业地图、产业发展要素分析、产业政策、产业洞察等产业数据分析服务。
服务于创业投资领域，为母基金、头部投资机构、地方政府产业基金或引导基金提供绩效考核的专业化平台，主要提供投资数据（投融资仪表盘:与投资趋势洞察融合）、投资绩效分析（投资绩效分析、融资日报、投资机构百强、投资人百强）、项目分析（重点项目、产业链投资、细分图谱投资）、投资布局（投资地图）、投资要素分析、投资管理等服务。
