网络首发 | 全球视野下我国人工智能素养教育内容框架的构建

人工智能素养（Artificial Intelligence Literacy，以下分别将“人工智能”与“人工智能素养”简称为AI、AIL）教育日益引起全球关注，相比于发展已经较为成熟的信息素养教育和数字素养教育，我国的AIL教育整体上处于探索起步状态，教学活动的开展比较零散、内容尚未形成体系，关于应该“教什么”亟需指导。

内容设计是AIL教育的核心。国内学者就此提出了三维、四维乃至五维框架的设想，主要参考2022年之前几个为数不多的AIL框架或期刊论文，较少考虑科研人员的AIL需求；教育学领域学者则更多关注中小学AIL教育，或AI如何赋能教与学。为使构建的AIL教育内容框架更具普适性、新颖性，除借鉴有影响的AIL框架外，本文整合多种来源的学术数据，进一步囊括2023年以来有影响的国际组织的报告、指南、国际标准、多个先行国家（地区）相关的政策、我国的国家战略需求、雇主对AI人才的需求、期刊论文、全球知名企业动态、以及已开设的AIL 相关课程的内容。同时，鉴于信息素养、数字素养与AIL密切交叉，还参考了联合国教科文组织（United Nations Educational, Scientific and Cultural Organization, UNESCO）、欧盟（European Union, EU）等权威国际组织发布的有影响力的数字素养框架。本文对AIL的定位，并非指计算机或AI领域人员需具备的专业素养，而是AI时代每位公民应具备的素养。当然，也并非要求每位公民掌握框架的每一项技能，而是希望各教学主体针对不同的教育对象及其不同需求，有针对性地从框架中选择相应的内容开展教学实践，以发挥本框架的可操作性与实践指导价值。

本文构建的AIL教育内容框架由AI认知、AI技能、 AI应用、AI伦理四大部分组成，下文逐一阐述每个部分设立的依据及其包含的内容。

1.1   “AI认知”的含义及设立依据

“AI认知”指对AI基本概念的理解和对AI影响的辩证认知。“ AI认知”的提出依据有以下三个：UNESCO于2021年发布的《人工智能与教育：政策制定者指南》，界定了AI的必备知识；美国国家人工智能咨询委员会（National AI Advisory Committee, NAIAC）于2023年11月发布《建议：提高全美人工智能素养》，提出AIL包括对AI的批判认知；Kong等提出AIL的“认知维度”。

1.2   “AI 认知”的构成

“AI认知”的三个部分及其相应的依据依次为：第一，对AI概念的认知，即了解AI相关的概念、技术和历史发展沿革，依据是Wong等人发表的关于拓展AIL教育的高被引文献，其指出AIL的三大领域之一是“AI概念”；第二，对AI价值的认知，依据是中华人民共和国国家互联网信息办公室（简称“中央网信办”）发布的《全球人工智能治理倡议》，指出“全球人工智能技术快速发展，对经济社会发展和人类文明进步产生深远影响，给世界带来巨大机遇”；第三，对AI风险的认知，则依据国际标准化组织（International Organization for Standardization, ISO）2023年的标准文件《ISO/IEC 23894：信息技术――人工智能――风险管理指南》。在此基础上，进一步划分这三方面认知所包含的具体内容含义与提出依据，详见表1。

由于AI风险及其治理是受到全球持续、高度重视的议题，且意识形态风险是我国必须予以特别关注和坚决防范的风险，因此，本文着重介绍AI的意识形态风险。AI技术存在意识形态风险的主要原因在于：首先，AI技术可能会对我国社会主义核心价值观造成潜在威胁，例如以ChatGPT为代表的生成式人工智能（Generative Artificial Intelligence, GAI）工具所使用的语料库是以西方价值观为主导的英语语料库，因而输出的内容和观点会不可避免地存在意识形态偏见；此外，基于AI的算法推荐因其内在缺陷和不当使用，会一定程度上稀释主流意识形态的价值传播意义，使主流意识形态面临权威失落的风险。因此，必须警惕长期使用GAI工具尤其是国外GAI工具极有可能引发的主流意识形态和价值观被冲击甚至化解的风险。

2.1   “AI技能”的含义及设立依据

“AI技能”指开发和使用AI的人员及其所在的职业或行业所需的技能。“ AI技能”的设立依据是OECD于2023年10月发布的报告《14个经合组织国家的人工智能技能需求新兴趋势》，该报告将AI技能划分为七大技能集群，分析了2019-2022年间14个OECD国家对开发或使用AI系统所需技能职位的关键需求，发现“机器学习相关技能”最受欢迎。同时，报告中关于美国的部分揭示了所有AI雇主对社交情感技能、基础技能和技术技能的一致需求；那些发布最多AI职位的公司对于既具备技术专长又具有领导力、创新能力和解决问题技能的AI专业人员需求更高。

2.2   “AI 技能”的构成

“AI技能”包括三个层面，其级别与要求依次提高，分别为应用AI技能、分析和评估AI的技能、利用AI开发和创造的技能，提出依据主要有：EU《公民数字能力框架》（DigComp2.2）、英国联合信息系统委员会（Joint Information Systems Committee, JISC）提出的面向各种类型数字化机构的《构建数字能力框架》（JISC, 2024），美国哥伦比亚大学巴纳德学院学术和技术团队面向高等教育机构开发的《人工智能素养框架》（EDUCAUSE, 2024a）。这三个技能包含的内容及其描述、依据详见表2。

2.2.1  应用AI技能

“AI工具使用”是解决问题、分析和评估、开发和创造的基础，“合理应用AI工具”是“应用AI技能”的核心。AI工具是由AI技术驱动的软件应用程序、平台或系统等，可以模拟人类的认知过程，如学习、推理、解决问题、感知、语言理解和创造力，旨在执行通常需要人类智能才能完成的任务。通用型AI工具、常用的 LLM聊天机器人可作为面向大众的“入门级”AI工具利用的教育内容，已有很多相关介绍。表3梳理了面向科研人员的三类AI工具，它们多用于智能化发现、处理和管理文献，或助力论文写作。

2.2.2  分析和评估AI的技能

涉及对GAI更为复杂的多方面理解。为掌握这一层面的技能，需培养学习者批判性地反思结果，如偏见、伦理以及其他超出提示框窗口主题的能力；结合自己的学科或兴趣，从更广泛的背景中审视AI；批判性地评估AI工具，并提供支持或反对其创建、使用和应用的论据；分析AI开发和部署中的伦理问题。

2.2.3  利用AI开发和创造的技能

这是AI技能中的最高层次。经过培训后，学习者能够以创作者身份与AI进行高效的交互，能够选择合适的AI工具产出新的、多模态的数字内容；具备高阶开发技能，可利用AI工具创建新的代码片段、脚本、程序、LLM，或是能够熟练地利用AI辅助数字产品的开发；能够提出关于AI的新见解，利用AI辅助广泛的创新创造活动。

3.1   “AI应用”的含义及设立依据

“AI应用”指能够使用AI技术完成特定任务或项目，提出依据为UNESCO的两份文件。UNESCO关于2020 年“AI与教育未来国际论坛”的会议总结报告提出，要定义和发展AI胜任力，初步提出四个方面的能力，涵盖以人为本的能力（包括伦理、法治等）、计算思维、技术应用能力、创造能力。在此基础上，UNESCO分别制定了教师与学生的AI胜任力框架，并于2024年4月发布精简版的《教师与中小学学生AI胜任力框架草案》，要求教师、学生要具备AI技术应用能力。

3.2  “ AI应用”的构成

“AI应用”包括面向行业的AI应用与面向场景的AI应用两个维度。前者依据UNESCO于2018年发布的“全球数字素养框架”（Global Framework of Reference on Digital Literacy Skills, DLGF），该框架的第6大领域为“职业相关能力”，其中在特定领域使用专门的数字工具与技术的能力，可延申至AIL的AI应用中，即在特定行业中使用专门AI工具和技术的能力；后者依据UNESCO发布的全球首个关于AI与教育的共识宣言《北京共识――人工智能与教育》，指出要“培养在AI时代生活与工作所需的价值观与技能”。

3.2.1  面向行业的AI应用

AI已在绝大部分行业得到应用。根据对国内外多源异构学术信息的检索与分析，本文发现，已得到全球共识的、受AI影响较大、对应用AI赋能发展有旺盛需求的五个行业分别为教育、医疗、金融、法律和艺术设计（见表4）。

限于篇幅，本文仅选取艺术创作行业的AI应用进行阐述。微软与领英合作发布的《2024年工作趋势指数年度报告》指出，在AI逐渐成为主流的背景下，“创意专业人士”亟需实现技能提升，在2023年使用“领英学习”（LinkedIn Learning）平台培养AI能力的非技术类职业排名中，前20 名上榜最多的行业是“创意、设计、营销”，表明艺术创作行业对AI应用能力的培育有非常迫切的需求。全球知名慕课（MOOC）平台 Udemy、Coursera等，已开设多门指导利用AI工具（如Midjourney、DALL-E、Stable Diffusion、BlueWillow、 DreamStudio、RunwayML、Adobe Firefly）生成绘画图像、动画视频等艺术作品的课程。

3.2.2   面向场景的AI应用

以工作和科研场景为例。“工作场景”这一指标的提出依据为OECD于2024年3月发布的研究报告《在工作场所使用人工智能：机遇、风险和政策应对》。该报告为全球应对AI对工作的影响提出若干政策措施建议，包括：开展各级各类AI技能培训，帮助正面临AI取代工作岗位危机的从业者提升应对能力，帮助可能借助AI 技术获得更好职业发展的从业者提升工作竞争力等。

“科研场景”这一指标的提出依据有三个，它们在逻辑上密切关联，为设计面向科研人员的AI应用教育内容提供了不同维度的启发。OECD于2023年发布面向政策制定者、公众和所有科学领域利益相关者的研究报告《人工智能在科学中的应用：挑战、机遇和研究的未来》，认为提高研究效率可能是AI所有应用中最有价值的，强调提升科研人员AI应用能力的必要性与迫切性，号召相关政策制定者推出促进AI在科研中应用与开发的制度。欧盟委员会于2024年发布《在研究中负责任地使用生成式人工智能的现行指南》，面向科研人员提出六大方面建议，为规范科研场景下AI应用行为提供重要参考，包括科研人员对科学成果负最终责任、透明地使用GAI、注意AI工具使用中的隐私保护与知识产权问题、遵守法律、避免在可能影响其他科研人员或组织的活动中（如同行评议、研究提案评审等）使用GAI等。值得关注的是，国际顶级期刊《自然》（Nature）刊发的面向不同学科的1,600名科研人员的调研成果显示，大多数受访者较认可GAI工具对于科研活动的开展具有重要作用，如在总结和翻译、改进论文语法和风格、编写代码等方面具有较好效果，较多地运用AI工具编写代码、构思研究思路、辅助论文撰写。

4.1   “AI伦理”的含义及设立依据

“AI伦理”指积极学习AI伦理知识，客观认识AI伦理问题，主动开展或参与AI伦理问题讨论，思考AI伦理治理实践及其影响，提升应对能力。提出“ AI伦理”的依据有两个，一是我国国家新一代人工智能治理专业委员会于2021年9月发布的《新一代人工智能伦理规范》，指出“将伦理道德融入人工智能全生命周期，促进公平、公正、和谐、安全，避免偏见、歧视、隐私和信息泄露等问题”；二是UNESCO发布的首份AI伦理全球性协议《人工智能伦理问题建议书》，该建议书于2021年11月在UNESCO第41届大会上由193个成员国一致通过，凸显了全球各国加快推进AI伦理教育的共识。

4.2   “ AI伦理”的构成

“AI伦理”包括六个方面，即确保国家安全、人本关怀理念、强调公平包容、确保可控可信、保护隐私安全、尊重知识产权，提出依据包括：联合国（United Nations, UN）的1份文件和我国的3份文件，即UN于2023年12月发布的《中期报告：以人为本的人工智能治理》，以及我国的《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》《新一代人工智能伦理规范》；国际电联（International Telecommunication Union, ITU）先后于2017、2018、 2019、2023、2024年召开的“人工智能向善”（AI for Good）峰会，集结全球政产学研力量，共同推动AI技术服务于人类福祉，探讨利用AI技术促进17个可持续发展目标实现的方案。表5列举了“AI伦理”的六个方面，包含的内容及其描述、依据。

以《中华人民共和国国家安全法》为基本指导的“确保国家安全”是中国特色的AI伦理教育内容；“尊重知识产权”契合我国《知识产权强国建设纲要（2021—2035年）》的要求。本文将详细论述这两个与国家战略密切相关的部分。

4.2.1  确保国家安全

提出该指标的依据包括：“维护国家安全和社会公共利益”被写入《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》的第一条，《新一代人工智能伦理规范》第二十条规定“严禁危害国家安全、公共安全和生产安全，严禁损害社会公共利益等”。《中华人民共和国国家安全法》覆盖政治安全、国土安全、军事安全、经济安全、文化安全、科技安全、网络安全等多个领域，其中政治安全、文化安全、科技安全、网络安全是AI 伦理教育的必备内容。

确保政治安全。一方面，如前文1.2所述，AI技术极有可能引发社会主义意识形态被冲击的风险。为此，必须增设和强化社会主义核心价值观的教育内容，提升公众在与GAI互动中正确理解、甄别各种意识形态信息的能力，审慎辨别并剔除带有西方意识形态渗透的内容。此外，利用深度伪造技术制作的各国、各地区领导人视频极易引起突发政治舆情事件、破坏政治稳定与安全，甚至引发国际争端，这就非常需要在强化社会主义核心价值观教育的基础上，进一步充实关于虚假信息甄别和信息伦理的内容，尤其重视增加甄别深度伪造内容的方法与工具，引导公众不轻信、不转发、不传播来源不明的互联网内容。

确保文化安全。防范和抵制背离社会主义先进文化前进方向、侵蚀正确价值观的人工智能生成内容（Artificial Intelligence Generated Content, AIGC）。《自然》（Nature）于2024年3月在其官网中刊文指出， AI图像生成器经常生成带有种族主义和性别歧视的结果，或是带有与国别、肤色、职业等相关的刻板印象与歧视偏见，甚至是色情羞辱等有害内容。AI伦理教育必须包含思想道德教育的相关内容，引导公众在明辨是非、善恶、美丑的基础上，审慎辨别、看待与利用AIGC，抵制其中的不良文化。同时，这还与“确保公平包容”中的“尊重文化多样性”存在一定交叉，应重视在坚持社会主义先进文化前进方向基础上，树立对少数族群、土著文化等的包容观念，规避歧视与偏见等不良价值观内容的消极影响。

确保科技安全。随着AI成为各国竞相抢占的科研高地，AI技术的自主可控、自立自强已上升到科技安全的高度。中国工程院院士孙凝晖在十四届全国人大常委会专题讲座的报告《人工智能与智能计算的发展》指出，中国AI技术与智能计算产业面临的第一大发展困境正是在AI高端人才数量、AI基础算法创新、 AI底座大模型能力、底座大模型训练数据、底座大模型训练算力等方面都与美国存在一定的差距，并且这种差距还将持续很长一段时间。我国AI 伦理教育需重视关于AI全球竞争态势的内容，让年轻一代意识到西方国家对我国AI 核心技术研发实施“卡脖子”的紧迫形势，筑牢年轻一代的忧患意识和自信自强的价值观念。

确保网络安全。《生成式人工智能服务管理暂行办法》和《互联网信息服务深度合成管理规定》均在总则第一条指出，“根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》等法律、行政法规，制定本办法”。因此，关于网络安全与数据安全的内容我国AI伦理教育中必不可少。在面向全民开放的“国家智慧教育公共服务平台”中对AI与网络安全相关主题的课程进行检索和浏览后发现，“智慧中小学”“智慧职教”和“智慧高教”三个子平台中均上线了大量关于AI与网络安全的课程和音视频。此外，“国家智慧教育公共服务平台”的“专题教育”栏目上线的“网络安全宣传教育”也是值得关注的优质教学资源。

4.2.2  尊重知识产权

提出“尊重知识产权”二级指标的依据是：《新一代人工智能伦理规范》第十四条和《生成式人工智能服务管理暂行办法》第四（三）、七（二）。《知识产权强国建设纲要（2021－2035年）》提出的“加强教育引导、实践养成和制度保障，培养公民自觉尊重和保护知识产权的行为习惯……推动知识产权文化与法治文化、创新文化和公民道德修养融合共生、相互促进”等要求，对我国AI伦理教育内容框架中的“尊重知识产权”具有重要、直接的指导作用。

遵守AI的知识产权保护制度。以ChatGPT为代表的AIGC工具在为科学研究带来便利、激发灵感的同时，也可能造成抄袭、剽窃等学术不端行为，这些问题既关乎科研诚信、学术规范，也关乎知识产权的保护与风险规避。为此，需要引导公众关注国家、地区、所在单位或机构（尤其是对于科研人员和大学生而言）以及GAI工具使用声明中关于AI内容与作品保护的规定。南佛罗里达州大学图书馆建立专题指南“人工智能工具和资源”，包含美国关于AI的知识产权管理制度和办法等内容，指导师生了解并遵守GAI作品和内容的版权保护制度。

正确参考与引用AIGC。以ChatGPT为代表的AIGC工具也容易带来生成内容署名归属混乱等问题，从而引发版权纠纷，这就非常需要为正确使用和引用AI作品与内容提供参考依据和实践指导。该三级指标的依据中，两所国际知名高校图书馆均采取相关措施，值得参考：伦敦大学学院图书馆创建“人工智能认可与引用”专栏，指导师生对AI作品的正确引用，以合适方式承认生成式AI的贡献；伦敦帝国理工学院图书馆结合本校关于学术诚信与考试违规的规定打造“GAI指南”，要求师生在确保作品原创的基础上使用AIGC工具，需撰写“GAI使用声明”、并附模板要求，但是作品非原创、直接提交AIGC的情况，将造成抄袭或作弊。我国已有高校开展了相关实践，比如四川大学图书馆推出的“生成式人工智能专题”提供“使用原则和规范”与“引用/ 声明格式参考”，上海科技大学图书信息中心制定《上海科技大学生成式人工智能内容引用指南和格式范例》，并要求全校师生遵守。

教育内容是教育活动中最为关键的要素。本文构建了由AI认知、AI技能、AI应用、AI伦理四大部分组成的AIL教育内容框架，以此为我国AIL教育活动的开展提供些许参考。随着AI技术的快速发展，AIL的教育内容也将不断延伸、拓展，甚至衍生出新兴的教育内容，因此，AIL教育内容框架也需要紧跟AI技术发展的国内外前沿，保持动态更新。AIL教育是一个蓬勃生长的新兴议题，未来，期望能够加强跨学科、跨领域的AIL教育内容框架研究，汇聚图书情报学领域、教育学、计算机科学、新闻传播学、法学等各相关学科专家的智慧，共同研制具有中国风格和中国气派的AIL教育内容框架，并积极推动我国出台官方的AIL教育内容框架及配套的指南、教学计划、评估指标等政策制度，从而不断提升我国AIL教育的水平，以更好地支持和促进我国社会的数字化转型与高质量发展。

END

版式设计

陆澜

制版编辑

王淳洋