学习资源 | 联合国教科文组织发布《学生人工智能能力框架》（译文）

文摘 2024-09-20 22:12 浙江

《学生人工智能能力框架》来自联合国教科文组织官网，由谢作如老师推荐，原文为英文，本文为AI技术翻译而成。原文链接：

https://unesdoc.unesco.org/ark:/48223/pf0000391105

前言

人工智能时代负责任和有创造力的公民的学生培养

过去十年见证了人工智能 (AI) 在人类发展各个领域的广泛应用，2022 年 11 月生成式人工智能工具的公开发布更是加速了其在社会生活中的渗透。教育部门作为人类社会转型的核心，也不例外。

这种快速的技术变革进程为学生、教师和整个社会带来了多重机遇，同时也带来了风险和挑战。在人工智能时代，学校学生需要做好准备，成为人工智能的积极共同创造者，以及未来的领导者，他们将塑造这项技术的新迭代，并定义其与社会的关系。

这正是联合国教科文组织人工智能学生能力框架的目标——有史以来第一个此类全球框架。其目标是支持学生发展成为负责任和有创造力的公民所需的核心能力，使他们能够在人工智能时代茁壮成长。这将帮助学生获得必要的价值观、知识和技能，以便从整体角度批判性地审视和理解人工智能，包括其伦理、社会和技术层面。

新框架体现了联合国教科文组织的使命，将其人工智能和教育愿景建立在人权、包容和公平的原则之上。这种方法旨在确保人工智能支持人类能力的发展，保护人类尊严和能动性，并促进正义和可持续性。

该出版物以联合国教科文组织在该领域的先前工作为基础，例如教师信息和通信技术能力框架、《人工智能与教育：政策制定者指南》以及最近的《教育和研究中生成式人工智能应用指南》。它反映了广泛利益攸关方的贡献，借鉴了联合国教科文组织会员国在制定和实施人工智能学校课程方面的见解、国际工作组的专业知识、三次国际磋商会议以及多轮在线磋商。

人工智能学生能力框架是与教师能力框架同步开发的。我希望这两个框架能够赋予学生和教师塑造我们想要的数字未来的力量。

在一个日益复杂和不确定的世界中，确保教育仍然是我们共同未来转型的中心空间，是我们共同的责任。

——斯蒂芬妮娅·贾尼尼联合国教科文组织教育助理总干事

第一章：导论

1.1 为什么需要人工智能学生能力框架？

人工智能在生活和所有部门的各个方面的快速迭代和普及，对机器智能的本质、个人数据的收集和使用、人类和机器在决策中的作用以及人工智能对社会和环境可持续性的影响提出了新的挑战。教育系统必须让学生不仅具备使用人工智能的知识和技能，还要深入了解技术对社会和整个环境的潜在影响。鉴于人工智能对人类社会的变革潜力，至关重要的是让学生具备有效使用和积极共同创造人工智能所需的价值观、知识和技能。

教育作为一个公共部门，不能沦为被动采用人工智能的试验场。教育部门的作用不仅是让学生做好准备，以适应日益被人工智能技术改造的社会；它还发挥着关键作用，赋予年轻人以人为本地共同创造可持续未来的力量，重新平衡我们不仅与其他人，而且与技术和环境的关系。通过定义随着我们深入人工智能时代学生可能需要的核心能力，该人工智能学生能力框架 (AI CFS) 的最终目标是帮助塑造能够共同创造这些理想未来的负责任和有创造力的公民。

各国政府早在 2019 年就承认了发展人工智能素养和更高级人工智能能力的迫切需要，当时他们通过了联合国教科文组织《人工智能与教育北京共识》。事实上，《北京共识》强调了让社会各阶层的人们都具备人工智能素养的必要性。然而，根据最近对 190 个国家进行的一项调查，只有大约 15 个国家正在开发或实施学校教育中的人工智能课程 (UNESCO, 2022b)。调查还发现，各国对人工智能素养、技能和能力的定义差异很大。因此，调查结果突显了制定统一方法将人工智能相关教学内容纳入学校课程的紧迫性。

很多时候，学生人工智能能力的定义受私人公司设计和/或提供的培训的影响，这些培训往往侧重于操作以利润为导向的人工智能平台的技术技能。此类方法很少涉及人工智能对学习和更广泛的公民身份的影响的更广泛的批判性问题。目前，在将人工智能相关内容和方法引入教育课程的公共批准框架方面，太多教育系统存在空白。公共教育系统填补这一空白所面临的挑战之一是缺乏关于学生人工智能能力的国际参考框架。此类国际参考框架可以为设计国家/地方学生人工智能能力框架提供信息，该框架促进对人工智能工具的批判性和道德方法，以及发展其在教育中有效和有意义地使用所需的基础知识。该 AI CFS 的目标是填补这一空白。

人工智能技术是一个快速发展的目标。因此，至关重要的是确保所有学生都具备一套核心知识、技能和价值观，以便在当下以道德和有效的方式与人工智能互动。这一基础可以使学生能够以适当和以人为本的方式利用未来的人工智能技术迭代。

AI CFS 通过为学生定义一组核心能力来支持教育当局满足这些需求，这些能力分为四个方面：以人为本的思维方式；人工智能伦理；人工智能技术和应用；和人工智能系统设计。这四个方面在三个层次的进展或掌握（理解、应用和创造）中阐明，总共形成了十二个能力模块。对于这些能力模块中的每一个，AI CFS 都提出了关于相关教学方法和策略的详细规范，用于规划和提供与 AI 相关的课程内容。

1.2 目的和目标受众

AI CFS 旨在作为公共教育系统的指南，以培养所有学生和公民为有效实施国家人工智能战略和在这个新技术时代建设包容、公正和可持续的未来所需的能力。

更具体地说，AI CFS：(1) 提供了一个关于学生核心人工智能能力集的全球参考框架，为设计国家或机构人工智能能力框架提供信息；(2) 具体说明了在不同掌握程度下与人工智能能力关键方面相关的典型态度和行为表现，以帮助为学生设计人工智能相关课程内容；(3) 推荐了一个开放式的路线图，以帮助规划跨年级人工智能课程的学习顺序。

作为全球参考框架，AI CFS 将根据课程、人工智能教学的支持性学习环境、教师的准备情况以及特定学生群体的先验知识和能力，针对当地教育系统的不同准备程度进行调整。

AI CFS 主要面向政策制定者、课程开发者、学生人工智能教育项目提供者、学校领导、教师和教育专家。

第二章：关键原则

2.1 培养对人工智能的批判性方法

批判性思维是学生作为学习者、用户和创造者有意义地参与人工智能所需的一项基本技能。学生还有责任确定应该开发哪些类型的人工智能，以及如何使用它们来推动人类社会走向包容、环保和共享的未来。需要支持学校学生成为人工智能的积极共同创造者，以及潜在的领导者，他们将为今世后代定义人工智能的进一步迭代及其与人类社会的互动。为了支持这一愿景，AI CFS 旨在通过让学生参与基本问题的讨论来培养对人工智能的批判性方法，例如：人工智能是否准备好帮助解决人类面临的现实世界挑战，或者它是否对人类构成无法克服的威胁？人工智能培训和使用的对气候的不利影响是否与其预期收益不成比例？应该仔细审查人工智能使用的哪些社会、经济、政治和人口影响？

人工智能在各发展部门的转型对人类能动性、人际互动、社会公平、经济包容性和环境可持续性具有深远的影响。因此，首先，学校学生应该了解人工智能现有功能的优势和局限性。负责任使用的先决条件是学生能够检测人工智能工具的可信度和比例性。AI CFS 旨在让学生具备从道德角度批判性地审视人工智能比例性所需的价值观、知识和技能。这包括审视和理解其对人类能动性、社会包容和公平、制度和个人安全、文化和语言多样性、多元意见的构建和表达以及对环境和生态系统的影响。

学生应该超越人工智能是万能解决方案的误解。相反，他们要成为有意识的决策者，决定何时应该或不应该使用人工智能系统和应用程序；它们可能解决或不能解决哪些问题；以及何时以及如何将人工智能设计和用作更广泛解决方案的一部分。AI CFS 旨在培养学生的愿望，即应用和设计人工智能工具以服务于有意义的特定目的或应对现实世界的挑战并促进可持续发展。

社会正在以不同的速度进入人工智能时代，但世界各地的学生现在或将来都将成为以人工智能广泛融合为特征的环境中的公民。他们不仅要遵守法律法规和道德原则，而且作为公民，他们还必须为人工智能标准和法规的适应做出贡献。因此，该框架强调了支持学生成为人工智能的负责任和道德用户以及贡献者的重要性。它让学生反思围绕人工智能的关键争议，内化道德原则，并熟悉相关法规。

AI CFS 为日益受人工智能塑造的社会所需的那种公民身份设定了前瞻性的愿景。它建议挑战和促使学生有意义地利用人工智能进行自我实现；评估其社会、经济和环境影响；并在适合其年龄或年级的水平上，为人工智能法规的制定做出贡献，帮助塑造我们与整个社会技术的关系。

2.2 优先考虑以人为本的人工智能互动

在人工智能时代，人与人工智能系统和应用程序之间的互动将成为公共服务、生产和商业、社会实践、学习和日常生活的重要组成部分。建立理解和确保在这些领域以人为本地与人工智能互动所需的能力是 AI CFS 的优先事项。

教科文组织以人为本的方法主张，人工智能的设计和使用应服务于人类能力的发展，保护人类尊严和能动性，并在整个人工智能生命周期和所有可能的人工智能互动循环中促进正义和可持续性。这种方法必须以人权原则和尊重定义知识共享的语言和文化多样性为指导。以人为本的方法还要求以确保透明度和可解释性以及人类控制和问责制的方式使用人工智能。

随着人工智能变得越来越复杂和使用越来越广泛，一个关键的危险是它有可能削弱人类能动性并损害人类智力技能的发展。虽然人工智能可以用来挑战和扩展人类的思维，但不应允许它篡夺或取代批判性思维。因此，保护和增强人类能动性应始终是人工智能课程和教育项目设计中的核心原则。AI CFS 旨在支持学生了解人工智能可能从他们那里收集的数据类型、可能使用这些数据来训练人工智能模型的方法，以及数据循环可能对他们的隐私和更广泛生活的影响。它试图激发学生作为个人成长和学习的内在动机，并在越来越复杂的人工智能系统不断融合的环境中加强他们的自主权。该框架中提出的人工智能关键能力还可以指导学生理解社会互动和人类创作作品的独特价值，这些作品不应被人工智能输出所取代。通过发展以人为本地参与人工智能的能力，该框架旨在防止学生对人工智能上瘾或依赖人工智能，并培养在高风险决策中保持人类问责的行为。

2.3 鼓励环境可持续的人工智能

作为下一代人工智能技术的共同创造者和潜在领导者，学生需要批判性地理解以利润为导向的人工智能模型设计、培训和部署方法对环境的不利影响。教育系统有责任确保学生了解碳排放，分析气候变化的根本原因，并采取明智的行动来保护气候和环境。

在竞相生产越来越强大的人工智能模型的过程中，环境可持续性往往被认为是次要的。在某些情况下，它甚至被人工智能有望解决气候变化的说法有意掩盖。随着全球领导人和政策制定者努力考虑有关能源消耗和环境保护的法规，学生必须了解人工智能模型的训练是如何导致自然环境遭到破坏的。学习人工智能应该让他们能够紧急探索更环保的人工智能模型设计、培训和使用方法。AI CFS 通过指导学生设计和实施有关人工智能使用和培训对环境影响的基于项目的学习活动来解决这个问题，促使学生研究减轻这些影响的潜在解决方案。

2.4 促进包容性的人工智能能力发展

获取人工智能和人工智能能力是当今世界公民基本权利的两个方面。所有学生都应包容性地获得学习基础级别人工智能所需的环境，并应得到支持，以学习如何在人工智能的设计中嵌入包容性原则，并准备为包容性的人工智能社会做出贡献。

在定义人工智能能力时，应为学校学生提供机会，以理解和应用整个人工智能生命周期中的包容性原则。这涵盖了代表性数据的选择、无偏见算法和反歧视训练方法的选择、无障碍功能的设计、人工智能输出包容性的测试以及人工智能使用对社会包容的影响评估。关于人工智能系统设计，学生可以加深他们对评估不同能力用户以及来自不同语言和文化背景用户的需求的理解和应用技能。

在选择技术模型和类别作为人工智能相关教学载体时，需要注意避免偏袒某些人口群体。在推荐特定的人工智能工具用于教育目的时，必须应用严格的公共验证机制，以避免算法存在与性别、能力、社会经济地位、语言、种族和/或文化相关的偏见。应优先考虑旨在支持残疾人并促进语言和文化多样性的人工智能工具。

如果此类验证机制不可用，则应避免建议大规模使用特定的人工智能工具。

谈到课程的提供，可以概述具体措施，为基于 AI CFS 的课程的实施提供基本的有利条件。虽然人工智能框架或教育项目应设计为适用于所有学生，包括那些生活在低技术环境中的学生，但如果没有互联网和人工智能工具，参与人工智能将会限制人工智能能力的范围和掌握水平。各国政府应承诺在学术界或私营部门的支持下（如适用），促进包容性地获取基本互联网连接、更新的数字设备、开源或负担得起的人工智能程序和软件以及必要的人工智能设备。再次强调，这些努力必须特别关注残疾学生和/或来自语言或文化少数群体的学生。

2.5 建立终身学习的人工智能核心能力

人工智能相关的教学应服务于构建核心人工智能能力，使学生能够适应新知识，以及适应利用新的人工智能技术解决新环境中的问题。首先，这些核心能力必须包括与道德和以人为本的思维方式相关的价值观。学生需要指导，以逐步加深他们对特定人权的理解，例如平等权、不歧视权、隐私权和多元表达权，以及它们对各种形式的人工智能互动的影响。这些能力还反映了需要了解围绕人工智能的争议和指导监管的关键道德原则，以及培养打击偏见、保护隐私、促进透明度和问责制以及对人工智能的共同创造采用设计时道德方法的实践技能。

核心能力与品牌无关且与产品无关，确保学生能够适当地使用各种工具以及未来的人工智能技术迭代。它使他们能够对人工智能数据、算法、模型和系统设计形成适合年龄的逐步深入的理解。必须支持学生通过将人工智能概念与现实世界的挑战联系起来来构建这种理解，以培养批判性解决问题的能力。应进一步鼓励学生利用他们的创造力来优化现有的人工智能模型或共同创造更有意义的人工智能。这些核心能力构成了进一步学习以及在继续教育、工作和生活中更专门地使用人工智能的基础。

第三章：人工智能学生能力框架的结构

3.1 框架

AI CFS 根据一个二维矩阵指定了 12 个能力块。第一个维度包括人工智能能力的四个相互关联的方面，而第二个维度包括预计学生迭代参与的三个进展或掌握水平。

虽然 AI CFS 将人工智能能力的定义锚定在构成学生更广泛核心能力的三个支柱上，即知识、技能和价值观，但它也旨在鼓励对人工智能系统背后的人类主导方法的伦理理解。基于这一概念化，该框架定义了学生人工智能能力的四个基本组成部分：以人为本的思维方式、人工智能伦理、人工智能技术和应用，以及人工智能系统设计。这些要素侧重于基本价值观、维护道德原则的社会责任、基础知识和技能，以及系统设计的高阶思维技能。虽然不同的要素可以通过特定领域的学习和教学方法来发展，但人工智能能力最终是一组跨学科的、通用的能力和价值观取向，超越了特定的人工智能领域或工具。

第一个方面将学生的胜任力置于以人为本的对待人工智能的益处和风险的态度中。它还旨在促进批判性地理解特定人工智能工具对我们人类需求以及环境和生态系统可持续发展的比例性。第二个方面人工智能伦理涵盖了学生人工智能能力的社会和道德组成部分，包括在整个人工智能系统生命周期中导航、理解、实践和促进适应不断增长的原则和监管规则的社会技能。

第三个方面，人工智能技术和应用，代表了对人工智能内在联系的概念知识和相关操作技能的综合看法，使用选定的人工智能工具和真实任务。最后一个方面是人工智能系统设计，涵盖了确定问题范围、架构构建、培训、测试和优化人工智能系统所需的综合工程技能。该方面旨在挑战并促使学生更深入地了解人工智能系统，并为他们在人工智能领域的进一步学习搭建探索性学习的框架。

框架的第二个维度概述了三个进展水平：理解、应用和创造，旨在反映上述所有四个方面的掌握水平。它们可用于为人工智能课程或学习课程提供跨年级的螺旋式学习序列，以帮助学生逐步构建系统且可迁移的能力模式。

框架矩阵贯穿四个方面，涵盖三个进展或掌握水平（见表 1）。在这些水平和方面的交叉点是 12 个构成人工智能能力的模块，其特征支撑着人工智能的批判性思维、道德审查、实际使用和迭代共同创造。这些能力模块应被理解为构成关键组成部分的相互关联的单元。与其将它们视为孤立学习的零散和不同的主题，不如将它们连接起来并编织在一起，作为人工智能能力的运作器官。

该矩阵提供了在某个能力块内达到最低掌握水平的学习成果蓝图。更具体地说，该矩阵旨在指导：(1) 根据当地人工智能准备情况和可用教学时间，确定与人工智能相关的主要重点领域和预期掌握水平；(2) 确定可以整合到现有课程、学科领域和年级水平的人工智能相关学习内容；(3) 定义熟练程度并制定评估标准，以评估学生的一般人工智能能力和进步；(4) 设计和探索适合年龄和特定领域的敏捷教学方法。在国家、地区或学校将该框架本地化时，需要考虑许多此类因素；例如，重点方面的选择和预期掌握水平的规范将取决于学生现有的人工智能能力、教师的培训和技能、可用学习时间以及当地人工智能的准备情况，包括负担能力和基础设施。

表 1. 人工智能学生能力框架

能力方面	进展水平
能力方面	理解	应用	创造
以人为本的思维方式	人类能动性	人类问责制	人工智能时代的公民身份
人工智能伦理	体现的伦理	安全和负责任的使用	设计时伦理
人工智能技术和应用	人工智能基础	应用技能	创建人工智能工具
人工智能系统设计	问题范围界定	架构设计	迭代和反馈循环

3.2 进展水平

这三个水平反映了在使用和共同创造人工智能技术方面日益复杂、熟练和道德意识。预计学生会相互进步。

这些水平以及每个能力模块的具体规范，可以指导对学生人工智能能力的形成性和总结性评估，并为设计与上下文相关且敏捷的教学方法提供信息。

3.2.1 水平 1：理解

第一级是为所有学生设计的。所有个人现在或将来都会在他们的一生中与某种形式的人工智能互动。人工智能提供商一直在挖掘和操纵几乎所有互联网用户的数据，这也是事实。因此，所有学生都必须培养以安全、知情和有意义的方式参与他们在生活各个领域与人工智能日常互动的以人为本的价值观、知识和技能。

在“理解”水平上，希望学生培养对人工智能是什么的理解，并构建对人工智能工具及其使用背后的价值观、伦理问题、概念、过程和技术方法的适合年龄的解释。他们应该能够通过与现实生活或社会实践的联系来解释或举例说明他们的知识，并通过将新知识整合到他们自己的知识体系中来吸收新知识。

这种掌握水平为进一步学习人工智能提供了必要的态度、认知和实践基础。它没有定义整个人工智能特定领域或领域的退出级能力。

3.2.2 水平 2：应用

鉴于人工智能的使用已经渗透到所有领域以及生活的各个方面，包括教育和工作，学校的学生应该准备好成为负责任的、积极的和有效的人工智能用户，既是为了他们自己的个人利益，也是为了应对共同的可持续性挑战。因此，第二级“应用”的结果与所有学校学生相关，可用于定制主题模块的范围、广度和难度级别，并指定所有学生的退出能力。在这个级别学习要求学生对以人为本的方法和人工智能的基本道德原则以及基本的人工智能知识和应用技能有基本的了解。

在“应用”级别，希望学生能够增强、迁移和调整他们所学的价值观、知识和技能，以适应新的学习过程。他们通过解决更复杂环境中的理论问题和/或实际任务，并批判性地审视人工智能工具背后的先进技术方法来做到这一点。达到此水平后，学生将构建一个健全且可迁移的概念知识和相关人工智能技能集基础。他们还应该能够将以人为本的思维方式和道德视角应用于人工智能工具的评估、学习和实际使用。

此级别的学生可以进入第三个更专业的级别，即创造。然而，有些学生可能对人工智能没有强烈的兴趣，或者缺乏足够的时间或机会在学校的正规学习环境中微调他们的人工智能能力。对于许多人来说，二级“应用”将是他们人工智能相关能力发展的终点，至少在学校是这样。

3.2.3 水平 3：创造

人工智能领域的创新速度呈指数级增长，这意味着技术提供商正在定义我们社会转型的方式。发展关键的人工智能能力对于确保人工智能的设计、部署和使用能够满足用户的需求并造福公众至关重要。学校学生应该准备好创造值得信赖的人工智能工具，并在下一代人工智能技术的定义和设计中发挥主导作用。在“创造”级别，希望学生成为有良知的人工智能共同创造者，开发以人为本的解决方案，以积极影响人工智能的设计和使用。在这个级别学习需要综合应用所获得的人工智能价值观、知识和技能，以设计、实施和测试可以帮助应对现实世界挑战的人工智能解决方案。

学生将批判性地利用他们在数据、算法和道德设计方面的知识和技能；积极制作人工智能应用程序；并审议人工智能法规的调整。

在“创造”级别，希望学生增强他们对人工智能创新的兴趣，并基于开源和/或可定制的数据集、编程工具或人工智能模型开发新的人工智能工具。在定制和测试人工智能技术的迭代过程中，希望学生增强作为人工智能共同创造者的意识，并融入更广泛的社区，帮助领导以人为本的人工智能设计和使用。在这个级别，还希望学生增强他们批判性地评估人工智能的社会影响以及个性化作为人工智能驱动社会公民的责任的能力。

“创造”级别的学习还旨在培养学生的创造性解决问题的能力和积极倡导人工智能伦理实践的态度。完全满足此级别的要求需要在课程中分配足够的学习时间和空间（例如，整个学期或多个学期）。学习计划还必须提供必要的人工智能资源，并促进适合年龄的创新教学方法。对于那些对深入学习该领域没有强烈兴趣的学生来说，此级别的学习成果，特别是在“人工智能系统设计”方面，应该作为选修课程提供，而不是作为所有学生的必修要求。

3.3 方面

这四个方面具体说明了人工智能能力的基本组成部分，学生需要构建并不断更新这些能力，以便成为负责任的用户和积极的人工智能共同创造者，以及定义和开发下一代人工智能的潜在领导者。

3.3.1 以人为本的思维方式

能力方面	进展水平
能力方面	理解	应用	创造
以人为本的思维方式	人类能动性	人类问责制	人工智能时代的公民身份

“以人为本的思维方式”方面侧重于学生的价值观、信念和批判性思维技能，应用于审查人工智能是否适合目的、其使用是否合理、人类应如何与其互动，以及个人和机构应该承担哪些责任，为建设安全、包容和公正的人工智能社会做出贡献。以人为本的思维方式为进一步参与人工智能的各个方面奠定了基础。该方面的完整表达还包括人工智能相关的人类身份、承担社会和公民责任，以及在人工智能时代追求或加深个人兴趣。该方面旨在培养的价值观和技能可以通过以下三个能力模块来体现：

人类能动性：希望学生能够认识到人工智能是人为导向的，人工智能创造者的决定（无论是公司还是个人）都会影响人工智能系统如何影响人权、人-人工智能互动，以及他们自己的生活和社会。希望他们了解在人工智能的设计、提供和使用过程中保护人类能动性的意义。学生将理解人工智能受人类控制意味着什么，以及如果不是这种情况可能产生的后果。

人类问责制：希望学生认识到人类问责制是人工智能创造者和人工智能服务提供者的法律义务，并了解他们在设计和使用人工智能期间应该承担哪些人类问责制。他们还应该培养这样一种意识：在使用人工智能协助决策时，人类问责制是一种法律和社会责任，在做出高风险决策时，人类的选择不应让与人工智能。

人工智能时代的公民身份：希望学生批判性地理解人工智能对人类社会的影响，并促进负责任和包容性地设计和使用人工智能以促进可持续发展。他们应该了解自己在人工智能时代作为公民的公民和社会责任。还希望学生培养一种终身学习和使用人工智能以支持自我实现的愿望。

3.3.2 人工智能伦理

能力方面	进展水平
能力方面	理解	应用	创造
人工智能伦理	体现的伦理	安全和负责任的使用	设计时伦理

“人工智能伦理”方面代表道德价值判断、体现的反思，以及学生在理解、实践和促进适应与人工智能系统整个生命周期相关的不断增长的一系列原则和监管规则时所需的社会和情感技能。希望学生了解和应用有关全球影响和当地环境交汇处的伦理治理的知识。随着人工智能的快速迭代引发了更多深刻的争议，人工智能伦理的范围正在扩大，新的法规、法律和规则正在被采用。这方面的三个能力模块概述了学生逐步内化道德原则以及习惯性遵守人工智能法规的关键步骤。

体现的伦理：希望学生对其当地环境和个人生活中围绕人工智能的关键伦理辩论背后的问题有基本的了解，包括人工智能对人权、社会正义、包容、公平以及气候变化的影响。他们在反思性实践和在生活中和学习中使用人工智能工具时，将理解、内化并采用以下原则：

不伤害：学生表现出理解人工智能系统不应用于可能对人类有害的目的（如用于监视或分配社会地位的面部识别，或用于评分考试的预测算法）。这包括评估特定人工智能解决方案是否侵犯人类价值观和权利，特别是数据隐私的能力，以及决定特定人工智能方法是否符合全球或当地法规的能力。

比例性：学生培养能力 - 视其年龄和能力而定 - 检查使用特定人工智能系统是否有利于实现正当目标，以及给定的人工智能方法是否适合环境。

不歧视：学生了解并能够检测嵌入人工智能工具或其输出中的性别、种族、文化和其他偏见。此外，学生了解国家内部和国家之间的人工智能鸿沟，并理解需要努力解决这些问题并确保更大的可及性和包容性。

可持续性：学生能够解释和说明人工智能系统对环境可持续性的影响。

人机协作中的人类决心：学生能够证明为什么人类应该对人工智能的使用承担道德和法律责任；他们能够举例说明人类如何在人工智能辅助决策循环中保持责任制，而不是将决定权交给机器。

透明度和可解释性：学生意识到用户有权向设计者和提供者索取有关人工智能工具如何工作、其输出如何根据算法和模型生成，以及部署和应用某些人工智能工具对特定年龄或能力水平的用户是否合适的解释性信息。

安全和负责任的使用：希望学生能够按照道德原则和当地适用的法规以负责任的方式使用人工智能。他们意识到泄露数据隐私的风险，并采取措施确保只有在他们深思熟虑并知情同意的情况下，才能收集、使用、共享、存档和删除他们的数据。他们还意识到某些人工智能系统的特定风险，并且能够在使用人工智能时保护自己和同龄人的安全。

设计时伦理：希望学生在设计、评估和使用人工智能工具以及审查和调整人工智能法规时采用设计时伦理方法。学生意识到，评估人工智能设计背后的意图涉及检查人工智能生命周期的所有步骤，从概念化阶段开始。学生应该能够评估人工智能工具是否符合道德规范，以及审查人工智能规范并告知调整。

3.3.3 人工智能技术和应用

能力方面	进展水平
能力方面	理解	应用	创造
人工智能技术和应用	人工智能基础	应用技能	创建人工智能工具

“人工智能技术和应用”方面代表了与具体人工智能工具或真实任务相关的、内在联系的人工智能概念知识和相关操作技能。该方面是具体理解和应用以人为本的思维方式及其相关伦理原则的最重要和可迁移的技术基础。数据和人工智能编程的基本知识结构和实践技能是设计和构建人工智能系统的能力的基础，特别是对于在该领域有强烈兴趣和能力的学生而言。“人工智能技术和应用”方面意味着希望学生研究示例性人工智能工具，以了解人工智能是如何根据数据和算法开发的。学生将同步获得人工智能编程技能，并通过将其应用于人工智能工具的制作来增强其知识和技能的可迁移性。在三个进步水平的流程中，还希望学生整合伦理、文化和社会参数，并在科学、技术、工程、数学、艺术、语言和社会研究中巩固跨学科的基础知识和技能。

人工智能基础：希望学生能够在人工智能方面建立基本知识和技能，尤其是在数据和算法方面，了解逐步加深对数据和算法的理解所需的跨学科基础知识的重要性。学生还应该能够将人工智能的概念知识与其在社会和日常生活中的活动联系起来，通过了解人工智能如何工作以及人工智能如何与人类互动，具体化以人为本的思维方式和道德原则。

应用技能：希望学生能够构建对数据、人工智能算法和编程的适合年龄的理解，并获得可迁移的应用技能。希望学生能够批判性地评估和利用免费和/或开源人工智能工具、程序库和数据集。

创建人工智能工具：希望学生能够加深和应用数据和算法方面的知识和技能，以定制现有的人工智能工具包，从而创建基于任务的人工智能工具。希望学生将他们以人为本的思维方式和道德考虑因素整合到对现有人工智能资源的评估中。他们还应该培养参与人工智能创作所需的社会和情感技能，包括适应能力、复杂的沟通和团队合作技能。

3.3.4 人工智能系统设计

能力方面	进展水平
能力方面	理解	应用	创造
人工智能系统设计	问题范围界定	架构设计	迭代和反馈循环

“人工智能系统设计

“人工智能系统设计”方面侧重于问题范围界定、设计、架构构建、培训、测试和优化人工智能系统所需的系统设计思维和综合工程技能。该方面旨在挑战人工智能系统的可解释性，并为将在该领域继续学习的学生提供探索性学习。还希望学生加深和实践“设计时伦理”。虽然系统设计思维方法学、相关的以人为本的价值观和道德原则以及人工智能所需的知识和技能可以嵌入到学生人工智能能力的所有其他方面，但该方面主要针对那些对加深知识有特殊兴趣和承诺的学生和该领域的技能。

问题范围界定：希望学生能够理解“人工智能问题范围界定”作为人工智能创新起点的重

要性。希望他们能够从法律、道德和逻辑的角度审查是否应该在特定情况下使用人工智能；在尝试训练一个人工智能模型来解决问题之前，定义问题的边界、目标和约束。还希望学生获得概念化和构建人工智能系统所需的知识和项目规划技能，包括评估不同人工智能技术的适用性、定义数据需求以及设计测试和反馈指标的能力。

架构设计：希望学生能够培养基本的方法论的教学知识和技术技能，为覆盖数据层、算法层、模型层和应用程序接口层的人工智能系统配置可扩展、可维护和可重用的体系结构。希望学生发展构建原型人工智能系统所需的跨学科技能。这包括期望他们在配置、构建和优化中应用深化的以人为本的价值观和道德原则。

迭代和反馈：希望学生增强和应用他们的跨学科知识和实践方法，以评估人工智能模型的人文主义的适用性和方法论的教学的稳健性及其对个人用户、社会和环境的影响。他们应该能够获得适合年龄的技术技能，以提高数据集的质量、重新配置算法并根据测试结果和反馈增强架构。他们应该能够在模拟决策时应用以人为本的思维方式和道德原则，以确定何时应关闭人工智能系统以及如何减轻其负面影响。他们还应该培养他们在更大的人工智能社区中作为共同创造者的身份。

第四章：学生人工智能能力规范

本章提供了有关课程目标和预期学习目标的详细规范，教师培训或支持计划可以为 12 个能力模块中的每一个制定这些目标。这些目标通过教师在各种环境（包括特定学科和/或跨学科教学实践）中预期执行的活动示例进一步说明。

4.1 水平 1：理解

“理解”水平的总体课程目标是支持所有学生达到不同环境中教师职业所需的人工智能能力或素养的基本水平。以下目标、学习目标和活动示例阐明了每个能力模块的含义：

表 2. 水平 1：理解的能力模块、目标和示例

表 2. 水平 1：理解的能力模块、目标和示例

水平 1：理解
教师能力	课程目标（人工智能课程或学习计划应...）	学习目标（教师可以...）	语境化活动（教师可以展示以下态度或行为变化）
以人为本的思维方式	1.1 人类能动性：教师批判性地理解人工智能是由人类主导的，人工智能创造者的决定（无论是公司还是个人）都会对人类自主权和权利产生深远的影响，并意识到在评估和使用人工智能工具时人类能动性的重要性。	培养这样一种批判性理解：人工智能是由人类主导的，人工智能创造者（无论是公司还是个人）的决定都会对人类自主权和权利产生深远的影响。这种批判性理解意味着在评估和使用人工智能工具时要意识到人类能动性的重要性。	1. 通过人工智能生命周期的抽象概念进行可视化：要求学生绘制选定人工智能工具生命周期关键步骤中的人类能动性概念图，包括数据所有权、在收集和处理数据时尊重数据隐私、人工智能算法和人工智能模型的可解释性、人为控制的人工智能输出评估以及人工智能辅助决策中的人类决心。概念图还应反映出在每个步骤中丧失人类能动性对个人和社会造成的潜在后果。
			2. 模拟人工智能法庭辩论以评估创造者禁止人工智能系统背后的意图：根据对欧盟人工智能法案禁止的人工智能系统定义的适合年龄的解释，组织学生充当陪审团成员，以评估根据人工智能法案将被禁止的选定人工智能系统示例，审议其创造者的意图和动机可能是什么。帮助学生了解这些系统如何对人类造成伤害，尤其是通过破坏人类能动性：例如，一个人工智能系统可能会部署削弱个人意识或故意损害其做出明智决定能力的技术。
			3. 基于场景的理解人控人工智能交互：选择在工作场所或日常生活中使用人工智能工具的示例或场景，表示它们及其人类用户对目标任务单元的贡献。鼓励学生认识到在人类能力和智力可能有限的情况下，人工智能在这些情况下可以做出的贡献，强调使用人工智能增强人类能力同时确保人类控制的重要性。

以下内容因原文中表格太长，略。有兴趣的老师可以关注原文的内容。

http://mp.weixin.qq.com/s?__biz=MzIxNTQzOTcwOQ==&mid=2247489867&idx=2&sn=f5bf8d2c8794202a8c187c48bf468cf0

火马信息科技

临海听涛声细品书香味期待爱书的你加入我们；编程跨学科学习的极佳工具，培养未来世界的创造者！