吴砥等：规避通用大模型教育应用风险的四条策略

学术 2024-11-26 14:01 北京

点击上方蓝字，关注我们

教育数字化转型对我国教育发展具有重要的意义。习近平总书记指出：“教育数字化是我国开辟教育发展新赛道和塑造教育发展新优势的重要突破口”。然而，教育数字化转型在给教育带来技术福利的同时，也将直接或间接产生伦理风险。

教育应用中可能产生的伦理风险

通用大模型在以其超强的智能技术范式重筑教育基础设施、重塑教学模式与教育生活方式的过程中，可能产生一定的伦理风险。依据通用大模型在教育领域应用的分析，这些可能的伦理风险主要体现在教育安全、教育关系与教育公平三个方面。

（一）对传统伦理问题的加剧

1. 教育安全方面

作为一种道德实践，教育的过程及其各要素都要求能符合伦理的标准和原则，并造成一种德性的教育结果。通用大模型内容的生成性和数据输入的无序性可能使得这种伦理的标准和原则遭到破坏，从而加剧教育安全危机。

第一，对教育主体与组织的隐私窃取可能加剧教育过程安全危机。通用大模型的预训练依赖于海量的多源数据，这将可能引发敏感信息与用户数据的泄露。在教育活动中，通用大模型为了实现预训练会主动窃取教育主体与组织的活动数据与隐私信息。一方面，通用大模型构造了一个智能化的数字教育空间，教育主体的个人信息与活动印记被记录其中，个人隐私存在被窃取的风险。另一方面，通用大模型对数据的爬取并不局限于个人，还包括各种组织与机构。各级教育组织成规模地掌握了青少年的相关数据，以及影响教育组织决策的重要信息。

第二，意识形态渗透可能加剧教育结果安全危机。一方面，通用大模型的预训练需要海量的数据、语料，其内容准确性难以保证，容易出现立场偏差和不良价值引导，加剧社会不良信息向校园的“倒灌”，危害青少年意识形态安全。另一方面，在互联网中，英文信息远多于中文信息，加上算法存在不透明、不可解释等问题，一旦某些西方国家在该领域形成技术垄断，可能会把这种技术霸权转化为意识形态霸权，冲击我国政治安全。另外，海量数据信息将改变青少年对事物的接受习惯与认知能力，繁杂的数据文本造成信息的“泛娱乐化”，影响主流意识形态话语的主导地位。

2. 教育关系方面

通用大模型在教育场景中具有超越“传统”教育技术的特殊价值，将变革教育活动中教与学的传统模式。这种变革必将导致传统的“师—生”二元关系结构向“师—机—生”三元关系结构的转变。通用大模型则达到了“能理解会创作”的智能化水平，可作为一种具有自主性、能动性的教育要素与师生建立新的交互关系，这可能会显著加剧“师—机”关系与“生—机”关系中的伦理问题。

第一，可能加剧“师—机”关系中教师的“技术恐惧”与“技术崇拜”。首先，在技术恐惧方面，通用大模型进一步模糊了人与技术的边界，扩大了“数字鸿沟”，同时通用大模型在知识教学、评价、诊断、纠错等方面表现出了足以比拟“人师”的灵活性和准确性，将进一步引发人们对教师职业替代风险的担忧。其次，在技术崇拜方面，通用大模型能够帮助教师从繁杂的基础性事务中解放出来，因此获得了某些教师的追崇，可能造成教师专业技能的退化。

第二，可能加剧“生—机”关系中学生的“技术沉溺”。通用大模型有着比传统智能技术更为强大的功能，它对学生的吸引力也更为强烈。这种技术沉溺主要体现在两个方面。一是对生成内容的依赖。通用大模型内容的生成性能够代替学生完成作业，例如，据英国大学生媒体The Tab统计，已有100多名英国大学生在评估中使用ChatGPT等人工智能并被判定为学术不端。利用AI作弊不但违反纪律，而且对AI的过度依赖将减少学生深度思考的主动性，削弱认知能力、思维能力、学习迁移能力等。二是对“虚拟交往”的沉溺。通用大模型具有强大的自然语言能力，不但语言组织能力更强，甚至可以像人一样使用“直觉思考”。基于理想算法和对人类情感的研究，它可以与人类进行语言沟通，提供感情慰藉和情感陪护。如果长期沉溺于虚拟交往，将使人的精神不自觉地走上异化之路。

3. 教育公平方面

数字技术在赋能教育公平上具有重要意义。不过在赋能的同时，也可能伴随着一些伦理风险。特别是在教育数字化转型即将面临更为智能的通用大模型时，教育公平伦理风险可能进一步加剧。

一方面，通用大模型可能扩大数字鸿沟，加剧教育起点不公平。科技开辟了一种数字化生存方式，数字化为人类带来福祉的同时也伴随着伦理问题。在数字化时代，每个学生能否公平享有适合自己的学习资源从根本上取决于他们能否拥有数字化学习的条件。通用大模型提高了技术应用门槛，可能造成更广泛的“数字荒漠”，剥夺更多学生的数字化学习权利。

另一方面，通用大模型可能放大学生之间的差距，从而扩大教育结果不公平。智能技术更迭要求学生数字素养同步发展，通用大模型功能的泛化性与内容的生成性颠覆了以往的传统范式，可能对使用者造成更大的影响。学生的数字素养决定了这种影响的程度，即，数字素养越高就越能从中获益。学生之间的数字素养难免存在差距，这将造成教育结果的差异化。通用大模型在推动教育技术快速发展的同时也扩大了教育结果的不公平。

（二）产生新的伦理风险

1. 教育安全方面

通用大模型因模型能力的涌现性、内容的生成性以及输入数据的海量性与无序性，在应用与发展中充满了诸多不确定性。这种新的不确定性将可能给其教育应用带来新的教育安全伦理风险。

第一，大模型系统的对抗性攻击风险可能使学生面临新的算法规制，从而产生新的认知安全问题。传统技术对学生的信息投放是以一种“散布式”的方式，内容的生成也只能通过“人工写入”。而通用大模型对学生进行着信息流的动态控制，主导信息扩散与流动，为每个学生创造与其活动印记同质化的微信息环境，进而降低学生对多元化信息的偶遇能力，最终造成认知安全风险。

第二，模型能力的涌现性可能会让通用大模型在教育应用中失控。从认识论角度来看，通用大模型的涌现性将直接导致鲁棒性欠缺，造成算法的不确定性和不可解释性，进而导致结果的非理性。应用于教育中的通用大模型作为一种重要的教育要素，对教育活动的开展、教育目的的实现起着关键性作用。涌现性将可能造成教育的不确定性，从而带来教育安全的伦理风险。这种伦理风险是在以往任何技术应用中都不存在的。

2. 教育关系方面

人—机协同育人模式可能阻碍师生间情感与思想交流。通用大模型具备丰富的知识基础、推理能力和自然语言能力，可取代“人师”多数的机械性工作。在具体的教育实践活动中，“人师”与“机师”的任务分配、协作方式都将成为新的问题。绝大部分的师生交往都是在知识教学过程中实现，通用大模型对知识教学的替代既褫夺了师生交往的时间和空间，又更进一步地减弱了师生交往的情感基础。

3. 教育公平方面

通用大模型对教育公平而言是一把双刃剑。一方面，通用大模型作为一种数字技术可降低教育资源获取门槛，同时数字技术的泛在化打破教育资源供给的时间和空间限制，实现教育资源公平分配，促进教育均衡发展。另一方面，智能技术的更迭进步对教育公平的影响日趋复杂，使用者可能受到通用大模型的不公平对待，破坏教育过程公平。

伦理风险的规避策略

尽管可能产生诸多伦理风险，但是通用大模型对教育的介入将会是一个必然趋势。面对实际或可能带来的教育风险，各相关主体应积极采取有效的规避措施。基于伦理风险类型的分析，结合通用大模型本身的技术基础与特征及其在教育领域的应用，伦理风险的规避策略可从设计制作、应用指南、监管体系、理论研究等层面进行。

（一）在制作层面确保通用大模型的道德化

首先，尽快开发自主知识产权的教育大模型，用中国本土教育的大数据来训练中国教育行业专有的大模型。目前世界范围内得到大规模应用的且较为先进成熟的大模型基本由国外研发，这些主要由国外大数据完成预训练的大模型，可能并不适用我国教育。技术的道德化要求技术在制作层面就能考虑到适用情境，外国训练的大模型与中国的教育实际不兼容，适用我国教育的大模型应是用中国教育的大数据来训练中国教育行业专有的大模型。

其次，在技术设计环节可采用价值敏感性设计和参与式设计的方法。价值敏感性设计是从隐私、自主性和技术的道德信念等价值观的角度出发来进行技术设计，从而规范设计者能够在整个设计过程中以道德信念将诸如正义、隐私、公平等伦理化要求“写入”通用大模型的算法之中。参与式设计是一种通过协议或制度确保所有利益相关者都能参与到技术的设计当中的方法，可在一定程度上阻碍技术霸权的产生，从而消解教育安全与教育公平等伦理风险。

最后，提升技术设计者的技术开发能力与伦理学素养。一方面，组建算法、数据、算力人工智能核心技术攻关研究团队，强化技术研究，打造可信人工智能评估治理应用。另一方面，加强技术设计者的伦理学知识学习，当技术设计者具有了深厚的伦理学素养，才能在设计过程中始终保持对伦理的遵守。

（二）细化对通用大模型教育应用的指导

技术伦理意向性依赖于伦理性的技术实践情境，技术原本被期望的德性伦理并不能完美地自我呈现。只有在具体的实践情境中，道德化的通用大模型才能显现其伦理意向性。伦理意向性对教育技术的实践情境提出了伦理化要求，即既要遵循普遍的伦理原则，又要掌握一定的应用技巧。因此，有必要开展应用性探索为通用大模型教育应用提供直接性指导。具体的应用指导是应对伦理风险最直接的策略，一些大学与组织已经着手发布生成式人工智能的使用指南。联合国教科文组织于2023年9月7日颁布了《教育和研究领域生成式人工智能指南》。此外，还有香港理工大学的《学生使用生成式人工智能指南》、中国科学技术信息研究所的《学术出版中AIGC使用边界指南》等。

（三）建立通用大模型教育应用的监管体系

越是智能化的技术就存在越复杂的伦理风险，因而也越需要加以伦理监管。当前关于通用大模型教育应用的监管经验共识基本处于起步阶段，现有监管体系大多缺乏可借鉴的模式方法，通用大模型教育应用潜在风险的规避仍存在现实难点。

通用大模型的教育应用区别于其他场景的应用，不仅因为它面向着未成年人，更是因为它是为了实现“培养人”的教育目的。因此，有必要建立专门针对通用大模型教育应用的监管体系。首先，建立准入机制，以政府和教育组织为主导，对通用大模型进行审查和实验，对适合介入教育活动的通用大模型颁发许可，并对获得许可的通用大模型进行持续性的监督。其次，创建适用于我国教育实践的通用大模型教育应用安全标准。然后，建立动态的风险监测机制，对通用大模型教育应用伦理风险进行独立审查。最后，优化建立监管体系方法论。

（四）加强对智能时代教育行业技术伦理问题的理论研究

未来教育的发展必定与技术携手共进，通用大模型的先进性必定会掀起新一轮的教育变革。因此，亟需开展与通用大模型实践相适配的技术伦理的理论研究。技术伦理的理论研究对技术的教育应用起着极为重要的作用。缺乏技术伦理的理论研究，技术的开发与应用不但其应然价值难以彻底实现，逐渐偏离预设轨道，而且还可能造成诸多意料之外的伦理风险，甚至与教育背道而驰。因此，面对通用大模型对教育的介入，亟须加强技术伦理的理论研究，在应用过程中保持理性。

END

文章来源 | 节选自《华东师范大学学报（教育科学版）》，原标题《通用大模型教育应用的潜在风险及其规避——基于技术伦理的视角》

微信编辑 | 李中华

微信监制 | 赵满树

往期回顾

教师成长的关键，在于做好六个“研究”

曹培杰：从经师到人师，新时代教师的数字化转型之路

尤炜：以“稳”为主，系统提升，全面把握新修订统编初中语文教材

http://mp.weixin.qq.com/s?__biz=MzU3MDEwNDgzMw==&mid=2247541011&idx=1&sn=5f5eec7d167df236bbca0260c3e28ecc

中小学数字化教学

《中小学数字化教学》（CN10-1490/G4）系教育部主管、人民教育出版社主办的专业性期刊，主要服务于运用信息技术改进教学的中小学教师、教研员、校长，以及师范院校师生和科研院所的科研人员。本公号是刊物“纸数联动”的支撑平台之一。

最新文章

多元空间：信息技术助力海岛特色跨学科项目式学习

信息科技跨学科学习项目的科学设计与有效实施

李政涛：视频时代的文字教育

吴砥等：规避通用大模型教育应用风险的四条策略

《中小学数字化教学》第四届理事会第一次会议圆满召开

语文课程学习方式变革：关键问题与策略

超越技术赋能：数智时代教学变革的文化审思

基于融媒体智能学习系统的在线教学探索——以《与妻书》为例

做好科学教育加法视角下科学课程内容优化的数字化途径

基于实证的“精智”教研：AI赋能的课堂观察与评价研究

科学认识教育的政治属性、人民属性、战略属性

尤炜：以“稳”为主，系统提升，全面把握新修订统编初中语文教材

生成式人工智能赋能中小学教师备课的基本策略

王立军：守正创新着力强化语文教材育人功能

教师成长的关键，在于做好六个“研究”

曹培杰：从经师到人师，新时代教师的数字化转型之路

公益讲座 | 赵春芝：数字资源赋能课程高质量实施

名师引领 | 桂立成：信息技术支持的大中小学思政课一体化建设实践与思考

李芒：新时代教师应提升数字化指挥力

李志民：数字化时代下的教育变革——推进教育数字化的路径与策略

项贤明：论知识学习与全面发展的辩证关系

成尚荣：写课，从“笨”走向“智”

中小学如何开展高质量校本教研

陈芳烈：跨界思维与科学教育

国际教育评价领域的新方法与新趋向

陈志文：强化中高考科技人才选拔功能支撑高水平科技自立自强

大数据技术赋能中学学业评价的实践探索

关于举办第六期“中小学教师数字素养提升与教学实践论文写作高级研修班”的通知

北京中学校长夏青峰：教育要处理好这3组关系

义务教育历史统编教材的编修思路：帮助中学生树立正确的历史观

欢迎订阅2025年《中小学数字化教学》

发展新质教育：基础教育数智化转型的新路向

公益讲座 | 高淑印：人教信息科技数字资源平台赋能信息科技实验教学的研究与实践

北京市教育领域人工智能应用工作方案发布

公益讲座 | 唐晓岚：义务教育信息科技与人工智能的未来发展方向

余胜泉：利用智能教育环境特点，培养面向未来的创新人才

落实新课标用好新教材 | 徐蓝：义务教育历史新教材的特点和教学建议

名师引领 | 江爱国：数智时代物理实验教学新探索

人工智能赋能课堂教学评价的实施路径

为教师减负的逻辑路向——从政策“理”性到执行“礼”性

人工智能时代中小学数字教材的创新方向与路径

这是项目式学习吗？

做数字时代的卓越教师，订阅《中小学数字化教学》

任友群：深刻领悟并全面贯彻教育强国的“六大特质”

关于国家教师资格考试测评内容更新问题的思考

熊璋：重塑以人为中心的教育体系

桑国元：数字技术赋能高质量项目式学习

基于教师权益的自主人工智能应用

教育评价｜学校改进视角下的办学质量评价

任昌山：以教育数字化为重要突破口支撑教育强国建设

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉