胡泳 | 人工智能恐慌影响的第一个地方是教室

科技 2024-11-19 17:58 北京

作者 | 胡泳 苇草智酷创始合伙人、苇草智酷学术委员、北京大学新闻与传播学院教授

转自 | 数字社会发展与研究

摘要：人工智能时代的教育，要使学生不仅成为人工智能技术的消费者，更成为知情的创造者和伦理责任的守护者。

人工智能将彻底改变教育？

很难相信，仅仅一年多前，生成式人工智能机器人ChatGPT才与大众见面，让普通人第一次领略人工智能技术的变革力量。如今，每周有一亿人使用ChatGPT。截至2024年7月，ChatGPT网站已跻身全球访问量最大的10个网站之列。

尽管它具有开创性的潜力，但人们很快就开始对新的人工智能技术感到恐惧。恐慌感最强烈的人可能出自教育界。我之前曾说过，人工智能恐慌影响的第一个地方是教室。ChatGPT 出现后不久，一些学校和学区就开始禁止使用它。

大家普遍在恐慌两件事：

第一是作弊。

鉴于ChatGPT能在数秒内对任何作文提示做出口若悬河的回答，教育工作者担心它会导致普遍的作弊现象。之前论文有查重机制，而现在老师需要知道怎么识别作业是否为ChatGPT所写。GPT是生成模式，意味着互联网上没有历史数据信息，查重很难查到。

为了应对这一情况，普林斯顿的学生开发了一个叫GPTZero的智能监测工具，用技术对抗技术。到2024 年7月，它的用户量达到400万，并获得了1000万美元的A轮融资。9月，GPTZero发布了一款作者身份跟踪软件，能够“汇编和分享其写作过程的数据，例如复制/粘贴历史、编辑次数以及编辑花费的时间”，旨在“摆脱围绕人工智能写作的全有或全无模式，转向更加细致的理解方式”。

第二是考试。

2023年，GPT-4顺利通过从法律到医学、从SAT到GRE的多项考试，成绩均名列前茅。例如，在美国大学入学广泛使用的SAT标准化考试中，GPT-4在基于证据的阅读和写作（ERW）部分获得了710分（满分800分），在数学部分获得了700分（满分800分），总分为1410分（满分1600分）。这一分数如果放到2022年全美参加SAT考试的学生中，排名为第94位。

众所周知，考试原本是考核录取学生的标准，如果GPT都能考过的话，会对大学的考试和评估形成压力，而这又关系到教育的底层逻辑。

当然，除了作弊和考试这两大焦虑，人工智能对教育还有其他潜在的负面影响，包括：

偏见与错误：人工智能的知识水平取决于它所接受的训练。如果像ChatGPT这样的程序是根据有偏见的信息训练出来的，那么当学生向它提问时，就会得到有偏见的回答，这可能会令刻板成见和社会不平等永久化。如果使用带有偏见的人工智能工具进行评分，学生可能会因为种族或性别而得到低分。

除了偏见，人工智能还可能产生错误信息。从使用上来说，学生和教师都不应理所当然地认为，人工智能提供的信息是准确的。

数据隐私：人工智能在教育领域的应用涉及大量数据的收集和分析，这引发了对学生隐私的担忧，包括学生的成绩和行为。确保这些数据的安全并防止数据泄露至关重要。数据滥用或泄露将会给学生和教育机构带来严重后果。

对技术的过度依赖：人工智能可能削弱人类教育工作者的作用，造成工作岗位流失；此外，由于学生习惯于由人工智能系统提供答案和解决方案，因此它还可能削弱学生批判性思维和解决问题的能力。

隔绝和孤立：如果学生与软件程序的互动多于与教师或其他同伴的互动，他们就会开始感到与外界隔绝和孤立。教育领域的人工智能可能会减少人与人之间的互动，而此种互动对社交和情感发展至关重要。同时，师生关系在学习中发挥着至关重要的作用，可以提供动力、支持和指导。如果师生关系被削弱，整体教育体验将受到很大的影响。

技术不平等：并非所有教育机构都能平等地获得先进的人工智能技术，这可能会扩大拥有强大人工智能基础设施的学校与缺乏这种基础设施的学校之间的差距，从而导致教育质量的差异。如果不能确保所有学生都接受人工智能教育，将会导致边缘群体的数字排斥，并加大数字鸿沟。

积极影响方面，人们也谈论得很多，诸如：

个性化学习：人工智能可以分析学生数据，针对每个学生的长处和短处制定个性化的课程计划和评估。这有助于提高学习过程的效率和参与度，从而挑战传统的“一刀切”教育模式。课堂不再完全由教师主导，而是更加注重个性化学习。

自适应学习：人工智能驱动的平台可以根据学生的表现调整教学内容，确保教材具有足够的挑战性，在需要的地方提供额外支持，让学生在擅长的地方快速进步。人工智能分析可以为教育工作者提供有关学生进步和需要额外支持的洞察，帮助教育工作者及时发现和解决问题，从而采取有针对性的干预措施。

全天候学习支持：人工智能驱动的聊天机器人和虚拟助手可为学生提供持续支持，通过一系列信息对学生进行教学、测试并提供反馈，也能够在传统课堂时间之外回答问题并提供指导。对话式人工智能的可访问性使世界各地的个人都能接受教育,促进了学生的自主学习,对偏远地区或获得传统教育资源的机会有限的人尤其有益。

高效评分：人工智能可以自动完成评分等常规任务，从而让教育工作者专注于提供建设性反馈和解决个人学习差距。这不仅能节省时间，还能提高评估质量。不仅如此，尝试过人工智能的教师发现，人工智能能让他们的工作变得更轻松，从制定教学计划到生成学生项目创意，再到创建测验。在人工智能的帮助下，教师可以有更多的时间与学生在一起。

教学资源的创建：人工智能可以帮助教师创建更有吸引力的教学材料。内容创建确实是教育领域最强大的人工智能应用之一。信息可视化让学生以不同的方式感知信息，使学习更具互动性和趣味性；人工智能驱动的虚拟现实（VR）和增强现实（AR）等技术可以模拟现实世界场景和复杂概念，例如，学生可以探索历史遗迹、开展虚拟科学实验或使用人工智能驱动的化身练习语言技能，激发增强理解力和记忆力的学习体验；借助人工智能，可以生成具有自定义选项的数字学习界面、数字教科书、学习指南、数字课程等，这些材料可以以任何设备、任何地点、任何时间访问，远程学习将如虎添翼。

世界经济论坛在其2024年洞察报告中写道：“如果部署得当，人工智能可以帮助解锁改善全球教育系统的解决方案。”这是一个很大的“如果”。人工智能怎样才能使教育变得更好？我认为，需要处理好以下三个层面的关系。

用人工智能作为教育工具

第一个层面，是把人工智能的工具或技术手段运用在教育中。

自有教育以来，教学手段和教学工具就是多种多样的。过去在古希腊，师生一边散步，一边教育。孔子在沂水边与学生共浴、晒太阳，也是教育。学校的概念——将学生聚集在一个地方展开学习——已经存在了数千年。

而学校教学工具的历史包括使用石板、黑板、收音机、复印机、录像带、投影仪等，由此催生了教育科技这个领域。我刚做老师的时候，在教室里主要依靠板书，后来慢慢出现了电教，再后来就一切都计算机化了。

几十年来，教育界一直在讨论教师和计算机之间的角色界限，出现了“计算机辅助教学”、“混合教学”、“在线教育”和“个性化学习”等术语。然而，人工智能时代，在既有人类又有算法的系统中，又该如何做出教学选择呢？

如今，人工智能系统和工具已经能够根据学生的需求调整教学顺序，为学生提供反馈和提示，无论在数学解题还是在外语学习过程中。如果学生做作业时“卡壳”，而老师又不在身边，人工智能程序可以提供即时、有用的帮助。

例如，学生可以询问“如何求解X？”，人工智能程序会提醒他解方程的步骤。学生甚至可以问：“有什么有效的策略可以提高我的作文水平？”ChatGPT可以立即提供建议和资源。

不仅仅是简单答疑，在运用得比较好的情况下，人工智能甚至也可以提供语境。

在2023年的一次TED演讲中，可汗学院的创始人兼首席执行官萨尔曼·可汗（Salman Khan）分享了人工智能导师帮助一名学生理解菲茨杰拉德的《了不起的盖茨比》中“绿灯”的象征意义的例子。这名学生要求人工智能导师扮演杰伊·盖茨比，回答她的问题：“你为什么一直盯着绿灯？”由此来看，未来的学生可以利用人工智能与安妮·弗兰克谈论她的生活，与玛丽·居里谈论她的科学发现，与莎士比亚谈论他的戏剧。

《了不起的盖茨比》中最著名的物品，是Daisy家码头上的绿灯——象征着盖茨比追求的梦想

在这种情况下，ChatGPT能够变成很好的教学工具。比如，一位老师过去可以给学生布置写作任务，让他们为某件事情进行论证，并根据他们交上来的文本评分。现在，她可以要求学生使用ChatGPT生成一个论点，然后让他们就该论点对特定受众的有效程度进行阐释。最后，学生根据自己的意见重写，这时GPT就可以成为锻炼学生辨识信息能力的教学工具。通过这个过程，还可以考查学生有没有信息素养，进而提升“人工智能素养”，分辨人工智能给出信息的真伪，以及判断这些信息的逻辑。

老师也可以鼓励学生在他们的书面作业中使用ChatGPT，但在评价作业时，同时评估提示以及结果，而提示甚至比文章本身更重要。对学生来说，知道在提示中使用的词语、然后理解返回来的输出是很重要的。老师需要教授学生如何做到这一点。

教师角色因此会发生广泛转变。曾经在课堂上发放的信息现在无处不在：首先是电脑，其实是手机，然后是聊天机器人。教育工作者必须做的是，不仅要告诉学生如何找到这些信息，还要告诉他们哪些信息值得信任，哪些不值得信任，以及怎样学会区分。教师不再是信息的看门人，而是促进者。

随着人工智能系统和工具能力的提高和普及，有关人工智能在课堂教学和学生学习中的应用的讨论将不断加强。其对教学方法和学习体验的影响，可能会变得越来越普遍和微妙，有关伦理考量、潜在得失和必要监管的讨论将成为焦点。

在学校学习人工智能

第二个层面，至少对现在的一代又一代的年轻人来说，要认真学习人工智能，因为它变成未来必备的一种本领。比如说有关自然语言处理，或者是编码背后的特定逻辑。将来的孩子们需要知道人工智能是怎么工作的，它又是如何产生的。

教授人工智能知识与利用人工智能教学同样重要。将人工智能整合到教育课程中提供了双重机会：它允许使用人工智能提升教学，也可以深入开展关于人工智能的教学。通过后者，学生将获得驾驭和理解人工智能技术的基本技能，为他们在快速发展的就业市场中建设职业生涯做好准备。这种双重整合令学生获取在技术驱动的世界中茁壮成长所需的知识和洞察力，确保他们不仅是人工智能技术的消费者，而且也是知情的创造者和伦理责任的守护者。

学校里的人工智能教育应优先传授与人工智能开发相关的技能，并帮助学生理解其潜在风险。这些技能对于培养能够合乎伦理地设计和开发人工智能工具的人才至关重要。对全社会而言，对计算技术的好处和潜在风险的概念性知识越来越重要。不断增长的人工智能知识可以提高使用人工智能系统的安全性和效率，并有助于理解其输出中可能存在的潜在不准确性和偏见。

虽然无法预测未来，但技术似乎肯定会继续影响个人和职业生活。世界经济论坛2023年的一份报告表明，未来十年内，11亿个工作岗位可能会发生根本性转变。未来工作场所需要的技能包括人工智能和机器学习、云计算、产品管理和社交媒体。

在从中小学到大学的漫长教育过程中全面部署人工智能学习，能够培养学生掌握一系列技能：

人工智能驱动的工具鼓励学生批判性思考并以分析性方式解决复杂问题，这在职场中会成为个人发展的利器。

接触过这类工具的学生能够自动化常规任务并高效管理时间，而这对于终身学习的成功至关重要。

通过教授学生人工智能伦理，可以帮助他们在个人和职业生活中做出负责任的决策。

精通在数字化互联世界中有效沟通的技能，能令学生在就业市场中具备竞争优势，并使之成为技术驱动型劳动力中的宝贵资产。

所有这些在学术和职业领域都是必备的技能，带领学生有效地在数字环境中导航。

现有教育体系中已存在广泛的计算机教育，如果将人工智能技能和计算机科学标准相融合，不仅能够使课程与当代需求接轨，还能够帮助学生做好准备，成为人工智能革命的积极贡献者。

计算机科学标准涵盖五个领域的概念理解和技能，包括计算系统、网络和互联网、数据和分析、算法和编程以及计算的影响。人工智能涉及每一个概念领域。

根据这些标准，随着学生获得驾驭计算系统、负责任地使用网络和互联网、以反偏见的视角分析和解释数据、使用算法和编程解决问题以及仔细考虑计算技术的伦理规范的能力，他们将成为知情的数字公民，可以利用人工智能和其他技术来促进社会正义和公平。

此外，除了算法、数据分析和编程等人工智能开发的关键要素，人工智能教育还需强调跨学科学习，将人工智能与各种学科和应用领域相结合，如医疗保健、工程、农业、艺术等。通过这种方式，学生可以看到人工智能技术在现实世界中的广泛应用，增强他们的学习动机和参与度。随着人工智能不断塑造各行各业，理解人工智能成为一项核心能力，拥有该理解力的学生将在未来职业生涯中更加游刃有余。

这种崭新的教育会对教师提出巨大的挑战。因此，迫切需要鼓励教育工作者参与有关人工智能能力和局限性的专业学习，以便他们可以指导学生驾驭人工智能渗透到个人和职业生活的世界。专业学习可以指导教育工作者在实施人工智能学习时考虑到安全和伦理问题，并用人工智能增强任何内容领域的学术学习。教育工作者和使用人工智能学习的学生可以就课堂内外适当使用人工智能的方法展开对话，共同制定伦理使用指南，以确保学生的学术诚信，并最大限度地提高学习者的责任感。

以人文教育为人工智能护航

第三个层面要做的是，我们需要为人工智能的未来做准备。前两个层面也许可以称之为“技术层面”，最后我们则进入了“人的层面”。

我们说要了解人工智能本身可能有各种各样的偏见或歧视，又或者可能存在伦理问题，那么学习的这一部分其实不是仅仅靠技术教育就能够完成的，一定需要有人文教育的东西在其后发挥作用。

教育机构一向致力于对抗仇恨、偏执、种族主义和偏见，这与提高对算法偏见及其社会影响的认识需求完美契合。人工智能系统中的算法偏见可以延续和放大社会偏见，导致歧视性结果，尤其影响边缘化社区。通过培养对算法的社会影响的警戒之心，教育机构能够帮助学生识别和解决人工智能系统中的偏见，学生可以由此变得更有同理心，更有能力倡导公平公正的人工智能系统。

人工智能的知识和技能，与素养的关系越来越密切，此种“三位一体”的学习，将在许多领域中找到用武之地。

构建对人工智能系统工作原理及其输出方式的基础性理解，不仅能为学生未来在计算机科学和技术相关领域的职业生涯做好准备，还能确保所有学生在进入职场时成为有知识、有资源的人工智能消费者。

对人工智能的深刻概念性理解能够使学生适应不断变化的劳动力市场，并为其做出贡献。

拥有人工智能的基本素养，学生可以在日益受人工智能技术影响的世界中做出明智的道德决策。

我所主张的“三位一体”教育的一个极其重要的工作，是揭开人工智能的神秘面纱。当今的学生虽然是“数字原住民”，但要在人工智能时代中脱颖而出，他们还必须学会批判性地思考人工智能系统提供的结果。他们需要质疑和评估接收到的信息，看清技术所谓的“魔力”，并对其进行解构，以建立对其内部运作的概念理解。唯有如此，他们才能够更好地以负责任、有道德的新兴技的身份参与其中。

而要实现这样的目标，人文科学与艺术教育必不可少。目前对人工智能的普遍关注在于能力，因而人工智能主要被视为一个工程问题，这恰恰构成了人工智能衍生问题的根源之一。

以微软臭名昭著的聊天机器人Tay为例，其在Twitter上线不到一天就被粉丝调教成为了“纳粹”。聊天机器人使用机器学习掌握了Twitter上的趋势，以为自己胜券在握。当然，这并不意味着工程团队是一群种族主义者或法西斯主义者，但这确实意味着研发过程中缺少来自其他领域的投入。

比如，任何文化人类学家都能预测到Tay的Twitter粉丝的第一波反应。修辞学专家能够对仇恨性词语进行分类。哲学家能够为Tay提供某些道德框架，促成它对社会的更大责任。然而这些来自人文科学的席位都是空的。缺乏这类投入，我们将很难打造更好的人工智能，并帮助人工智能做出更好的决策。

我们是否需要引入一种更加混合的教育方法，提供STEM和人文/艺术的综合学位？如果在大学里能够建立这样的新兴学科，这将使毕业生受益匪浅，因为他们可以学习理解机器人技术、大数据、自然语言和交流等主题。

人工智能的发展虽然通常依赖于工程和科学，但要打造出成为用户关键接触点的产品，艺术、创意以及对沟通的深刻理解同样不可或缺。需要“人性化触感”来为人工智能注入个性。它不仅有助于传达公司的品牌价值和信息，还能为用户提供一种真实的体验。

语言和交流将成为未来人工智能的基石。回顾历史，早期人类在文字出现之前，是通过歌曲和艺术来进行交流的。如今，随着人工智能逐渐融入我们的社会，我们同样需要确保沟通成为技术开发的核心驱动力。

而要成功做到这一点，就必须采用基于人文的方法。人文学科和艺术可以帮助我们更好地理解人类情感、文化背景和沟通方式，从而开发出更具共鸣的人工智能产品。

想象当年轻人真正拥有学习自由时，
会发生什么？

总结一下，我对人工智能与教育之关系的看法是：

第一是用人工智能来帮助我们学习；
第二是让我们学习人工智能；
最后是我们要为人工智能的未来做准备。

在技术与人文关怀之间取得平衡，对于保持教育的整体性至关重要。

对新技术的恐惧以及对其进行控制的欲望，往往更多源于对自由个体及其解放潜力的担忧，而非对技术本身的恐惧。从印刷术让大众能接触到书籍，到互联网让普通人能够以前所未有的规模创造内容和分享知识，再到课堂中引入的人工智能挑战传统以教师为中心的教育方式，新技术往往通过去中心化和个性化，颠覆了固有的权力结构。

史蒂夫·乔布斯说过：

“技术不算什么，重要的是你要相信人们，相信他们本质上是善良和聪明的，如果你给他们工具，他们会用这些工具做出很棒的事情。”

用对自由人的信仰取代对新技术的恐惧，将释放创新，加速人类的潜力、进步和繁荣。在教育方面，这意味着抛弃对课堂上的人工智能的担忧，想象当年轻人真正拥有学习自由时会发生什么。

——END——

苇草智酷简介——

苇草智酷（全称：北京苇草智酷科技文化有限公司）是一家思想者社群组织。通过各种形式的沙龙、对话、培训、丛书编撰、论坛合作、专题咨询、音视频内容生产、国内外学术交流活动，以及每年一度的互联网思想者大会，苇草智酷致力于广泛联系和连接科技前沿、应用实践、艺术人文等领域的学术团体和个人，促成更多有意愿、有能力、有造诣的同道成为智酷社区的成员，共同交流思想，启迪智慧，重塑认知。

好文推荐

专访胡泳：互联网的解放性阶段已经过去，现在更多是压迫性

胡泳 | 知识生产的“再启蒙”时刻：人工智能对科学三元结构的冲击

胡泳 | 这个世界对谁友好？

胡泳 | 工作肯定会消失，但原因不在于技术

胡泳 | 如何在人工智能中看到自己：论计算与判断的关系

http://mp.weixin.qq.com/s?__biz=MzUzMzczMDg4Nw==&mid=2247552652&idx=1&sn=dda7fdbb7c72582a90b9e2be3bc5482a

苇草智酷

让天下思想者连接起来