作者简介
AUTHOR
熊亮,博士,助理研究员,上海应用技术大学计算机学院副院长,复旦大学马克思主义学院博士后研究人员,研究方向:人工智能技术与教育理论(xiongliang2327@163.com)。
摘要:进入智能技术时代,作为关键技术的情感计算通过赋能教育数字化主体、对象、场景和评价反馈,能有效地推动情感教育发展。然而,当情感计算被嵌入教育数字化技术后,情感教育不可避免地存在着自主性缺失、感知迷失、数字焦虑和安全隐私风险等隐忧,有待从人机互动、价值引导、算法模型和隐私保护立法等层面加以优化。情感计算未来应用需挖掘海量的情感语料库,构建情感大语言模型,与脑神经科学、跨文化交际等学科交叉融合以加强情感的识别、判断与决策能力。
关键词:智能技术时代;情感计算;人机交互;情感认知;隐私保护
一、风险与隐忧
科学技术既具有推进社会进步的一面,也存在风险与隐忧共存的一面。智能技术的教育应用也是如此。一般而言,教育偏重感性,数字偏重理性,情感计算则有效地将感性与理性相结合。然而,情感计算在数字化教育的多元化环境中也不可避免地面临不确定性的风险与隐忧。
(一)过度依赖情感计算技术可能导致个体自主情感缺失
作为维系人类生命意识的情感能够被计算这一事实,表明计算已经用另一种生命形态与人类交织在一起(李建会,2004)。然而,人类的生命活动并不只是计算。计算作为辅助性的工具存在,不能替代人的主体意义的情感存在。情感是意识自我绽放、自我存在的表现方式,是人对外部世界判断感知的情绪反应,是自我朝向他者的开放性。正是这种开放性,使得意识自我的七情六欲、喜怒哀乐、酸甜苦辣等能够被激发绽放出来(张志平,2024),这是人的情感本质所在。一般而言,情感主要表现为三个层次:第一层次是正确与错误、是与非的情感表达。它来自于人的第一反应,表现为在学习过程中对某一知识或信息的直观理性表达。第二层次是褒义与贬义的情感表达,也就是人对学习的方式和成效所表达的情感状态,是一种对正负能量的表达。第三层次是人类特有的高阶情感表达。这是人对自我情感的反思表达,如骄傲、羞愧、尴尬、内疚、罪恶等。
智能技术时代,“以人为本、育人润心”的教育本质并没有改变,改变的是数字化技术如何强化情感育人的方式。然而,技术的过度渗入和对技术结果的过早期待,极易导致学习者对情感计算的过度依赖。这样,情感计算就可以通过手机和其他数字设备束缚个体的自主情感。例如,文本情感计算可以简单便捷地提取教师与学习者的文本信息;语言情感计算可随时提取他们的语言,并在短时间作出判断;面部情感计算能在短时间对学生的知识掌握情况作出反馈。这样,情感计算技术可以从不同维度识别、表达和合成个体的情感,并反馈给教育互动的双方,而个体的情感表达易在情感计算机器面前失去主体性,导致情感意义的异化。自主情感缺失的教育很容易成为机械式、平面式和单一性的灌输式教育,这与智能技术时代教育应具有的主动性、创造性和能动性等情感属性格格不入。相应的后果缘起于情感计算滥用,是教育改革需要警惕的重要方面。
(二)过度崇拜情感计算数字符号可能引发感知迷失
数字技术的发展推动传统教育空间场景转型,实现线下与线上、现实与虚拟、时间与空间的交叉结合,智能、泛在和融合学习成为教育数字化的重要理念和数字学习场景转换的重要方式。情感计算嵌入教育数字化转型,不仅能优化学习生态,也能在多场景中增强教师与学习者之间的情感互动。这主要体现在:
1)捕捉课堂环境中学习者的情感信息。情感计算为课堂环境营造提出了较高的技术设备要求。目前很多高校正在通过改进课堂环境硬件处理课堂信息,增强即时反馈,如利用摄像头采集面部表情、手势、抬头、身体姿势等行为数据分析学习者的学习情感状态。这种方式易操作且直观可见,是大多数研究者常用的工具方法。2)识别和判断在线学习平台中的情感信息。长期以来,缺乏面对面的互动交流、平台信息不对称和情感缺位等问题,易导致学习者在线学习成效不高。通过情感计算分析学习者的在线学习平台评论跟帖信息,教师可以了解学习者的情感表达,从而更好地提高在线学习成效。3)提取和分析虚拟现实与增强现实相结合的情感信息。虚拟现实与增强现实已成为数字化课堂教学技术改进的重要方式,也是学习者比较感兴趣的学习平台。由虚拟现实与增强现实等技术营造的积极有效的场景环境,不但可以增强学习者的互动参与的积极性与互动性,从而习得更多的知识点,而且可以增强他们的高级学习情绪情感,沉浸式地体验知识点的内在逻辑结构、互动交流的情绪价值和对未来的憧憬,有效提升学习效率。
在教育数字化环境中,数字符号是情感计算的基础。然而,对数字符号的过度崇拜容易引发数字幻象,主要体现在:
1)情感计算所表达的数字景观导致学习者对主流意识形态和道德标准的情感观望。在智能化工具所打造的数字空间中,数字景观内嵌有主流意识形态的隐性话语,容易幻化学习者对精神生活的想象,使其误把数字主流意识形态、道德标准和消费需求当作真实世界的存在,导致现实与理想的脱节。2)情感计算所表达的数字叙事可能导致学习者对知识真假的认知错位、对学习方式的主动放弃和对学习目的的无措迷茫。这可能使学习者对认知失去判断,甚至否定与质疑学习本身的意义。3)情感计算所获取的数字容易导致学习者对数字符号价值指称的误判,并且对真、善、美缺乏正确的认知。虽然情感计算可以赋予学习者感性、立体的审美视觉,满足其个性化订制学习的需要,但真、善、美的情感意蕴往往使学习者陷入美化的数字幻象,可能导致其在对数字符号的盲目崇拜和追逐中失去对真、善、美的艺术感知。
(三)情感计算信息信号被遮蔽可能带来数字焦虑
作为数字技术嵌入式改变的重要领域,数字教育实践活动无时不在与数字发生关联。情感计算在提取情感信息信号的同时,也不断生成海量的数据信息,教师与学习者也因此可以不断获取信息。然而,由于算法的隐蔽性和非透明性,数字信息所衍生的海量信息信号会使师生产生焦虑,包括教师的情感会不会被窃取、学习者的情感反应会不会被利用、教育的成效会不会被算计等。同时,在持续的技术输出和平台交往中,数字焦虑会蔓延到生活的方方面面,并在数字技术的联结效应下扩散为持续性和集体性的负向情绪(陈谭等,2024),从而不可避免地产生群体性的数字焦虑倾向。
海量数据信息和智能算法推送所引发的数字信息泛滥,使得教师与学习者每天生活在数字信息的海洋里,成为重复数字信息的搬运工,也会因没有及时关注信息而陷入数字焦虑,引发人内心的焦躁与厌烦,以致出现海德格尔的“座架”、福柯的“监控”和韩炳哲的“精神异化”等现象。数字焦虑在一定意义上是智能技术对人精神的异化,教师与学习者面对应接不暇的数字信息而失去正常的闲暇时间,精神世界也被侵蚀,进而忽视教育愉悦心理的真实意义。
(四)个体情感隐私被侵犯可能造成信任危机
作为一种利用计算机对人类情感进行提取、认知、判断和决策的技术,情感计算不可避免地触及个体情感世界。个体情感世界属于个人的隐私,关系到人身、财产和自由等权利。情感计算应用的主要假设是推断内心的真实情感,并以此为基础作出决策(王禄生,2021)。当情感计算提取的信息被用于失当决策时,极易导致个体情感被操控,即技术平台基于情感识别完成对特定对象的信息投放,并通过利用、控制或影响其情绪的手段操控特定对象的情感决策而获得利益(褚婧一,2023)。
智能技术时代,教师通过情感计算提取和分析学习者的情感,理解其学习状态、学习方式和学习成效,但所提取的情感信息会涉及他们的个人信息、生活兴趣和个人偏好,这些信息包括文本、语音、面部表情和生理信号等。这些信息一旦被不法机构或者个人获取,很容易成为 AI 画像和视频的对象而被暴露在公共场域,对个人的情感隐私构成危害,导致教师与学习者之间的信任危机。
二、优化策略
数字时代是情感能量爆炸时代(鲍金,2023),而数字化教育是情感与教育交织相融的过程。数字计算技术对情感的激发与调动越充分,其风险与隐忧就可能越突出。正因为如此,优化情感计算的嵌入应用成为数字化教育的必要举措。
(一)强化情感计算技术在人机交互中的自主情感交流
自 1997 年皮卡德提出情感计算以来,情感计算已成为人工智能的关键技术。如果说图灵所解决的问题是智能机的意识架构问题,那么皮卡德解决的则是智能机与情感交互的问题。在人机智能化交互中,拟人化的情感叙事需要人的非理性情感介入,每一步程序的设定和系统按钮的制动,与操作者的情绪、价值偏好和审美判断有着内在的勾连。因此,人机交互学习需要主观性情感因素的介入,不能完全依赖机器计算的情感。
在传统课堂,教师很难通过情感计算的单模态技术分析学习者的特定情感,判断其满意与否。在智能技术支持的课堂,多模态情感计算技术无论在准确率还是效率上都具有显著优势(D’Mello et al,2015)。多模态情感计算技术通过捕捉学习者课堂学习的文本、语音、视频和表情等特征,可理性地计算他们的内心情感,使教师能直观掌握学习者的情绪状态。教师通过数字化平台添加的情感状态栏目可提取、比对和反馈学习者的情感,综合分析他们的学习状况,快速调整教学知识与方法,增强人机交互的情感交流。
一般而言,教师与学习者的情感语义越丰富,机器计算的语料也越充分,这就需要双方加强交互。在人机交互中,情感互动与交流的价值区分不是绝对的。相比于积极情绪会带来更好的学习效果(Knoerzer et al,2016),消极情绪在复杂学习过程中也是有利于学习的(D’Mello et al,2014)。情感计算在人机交互中可从支持情感识别、表达与反馈等诸方面满足个性化教学需求,促进个性化教学的开展(余淑珍等,2024),从而通过教师与学习者情感互动满足教育数字化转型中个体的个性化情感需要。
(二)增强情感计算教育的数字信息感知引导
无论是线下课堂教学环境还是线上智能学习平台,教育数字化都可以让教师与学习者双方愉悦地表达和评论观点。在海量的数据平台资源中,教师只有综合运用文本情感计算、语音情感计算、面部表情符号和生理符号等技术强化情感的层次性,才能全面辩识学习者的情感情绪状态。教育管理部门要加强情感计算的大中小学一体化普及,既合理利用情感计算技术,又规避情感计算带来的技术依赖,实现教学相长。这主要体现在:1)教师科学地传递数字化时代的主流意识形态,警惕数字景观带来的信息泛化、过度消费和道德失范行为,让学习者在教育数字化转型中树立正确的主流意识形态观念;2)教师通过数字工具强化知识内容的数字意义,在数字平台上直观、立体和多样化地传递知识内容;3)教师利用情感计算讲好“数字强国”“教育数字化”等故事,通过深化情感计算技术与教育数字化关联的关键技术向大中小学生传递真、善、美的价值理念,让教育数字化更便捷高效。
(三)优化算法的伦理道德模型弱化数字焦虑
优化算法主要指通过捕捉情感信号对各类算法进行归类、推理、判断和决策,更好地将情感计算运用到各类应用场景。这需要强化对公民数据的合法保护。在这方面,欧洲联盟(2018)颁布了《一般数据保护条例》,明确规定控制者在获取个人数据时,需证实处理过程的公正和透明,在必要情况下,还应当向数据主体说明数据运用的逻辑以及该种数据处理的重要性和可能产生的后果。我国颁布的《关于构建数据基础制度更好发挥数据要素作用的意见》,将数据权利界定为一种产权,确认了数据权利即人身权利和财产权利的双重属性(中华人民共和国中央人民政府,2022)。由此可见,只有公正和透明的数据才能得到法律认可。算法优化也要遵循一定的道德标准,使数据双方形成共同的伦理道德规范。在教育数字化转型的背景下,教师与学习者的情感信号捕捉的速度、效率和频率依赖于算法的优化,并构建算法的解释权,增强算法的透明度,规避算法黑箱行为。此外,情感计算嵌入教育评价的算法模型,可以在一定程度上改善单一的评价模型。这体现在情感计算的全过程:
1)提取教师与学习者的情感信号。教师与学习者在教与学过程中所表达的满意与不满意、喜与怒等情感表征,既成为学习过程评价的重要内容,也作为评价的重要依据。2)识别教师与学习者的情感表达。学习者学习某一知识后所表现出的自信,是教师教学成效的重要展现。情感计算技术要及时感知、捕捉、提取教师与学习者的情感表达。3)判断教师与学习者情感合成情况。在皮卡德(罗莎琳德•皮卡德,2005)看来,计算机产生情感的能力包含五种成分:情感的行为、快速的第一性情感、认知产生的情感、情感经历和身心相互作用。情感计算对教师与学习者情感合成的判断需把两者的情感行为开展综合分析,才能掌握他们的情感状态,进而判断他们对评价互动的满意度,弱化情感情绪的数字焦虑状态。
政府管理部门要建立情感信号“技术向善”的伦理模型,数据输入、编程语言和结果输出必须得到教师与学习者的许可,算法模型需要嵌入正能量的情感情绪。这些措施可以降低师生的数字焦虑,并对数字信息进行有效的正向反馈,使算法模型在教育数字化转型中发挥赋能作用。
(四)加强数字情感隐私保护立法
随着人工智能、大数据和云计算等技术的深入发展,数据要素成为要素分配的重要形式,相关立法已日趋成熟。非理性情感的信息提取涉及公民的隐私信息,部分隐私信息关涉财产安全和自由权利,这些都需要国家通过立法加以保护。对数字情感的立法保护既有助于强化公民对数字及数字平台的信任,也有助于促进公民理性逻辑和非理性情感的有效结合。政府管理部门应将公开透明作为情感计算的应用原则,执行严格的信息公开制度,严格审查对教师与学习者的文本、语音、视频、面部表情和其他生理信号特征等的提取,并作出集体民主决策。另外,作为一项关键性技术,政府需要成立专门的监督机构对使用者实行监控,防止技术的滥用带来权力的膨胀现象。
三、未来走向
情感计算作为人工智能的关键技术,试图探索人机交互领域的情感难题,这也是弱人工智能迈向强人工智能的关键一步。情感是人类日常生活的基础,在人类判断、感知和决策领域发挥着重要作用,情感计算可识别、生成和合成人的情感情绪状态并将其嵌入各行各业,在更大范围内为人类的生产和生活服务。
(一)情感计算技术赋予大语言模型海量的情感语料库
以 ChatGPT 为代表的大语言模型横空出世,对机器语料库的生成、输出、释义和情感表达都将产生深远影响。情感计算技术在大语言模型中的应用主要用于对文本话语的情感理解和生成,旨在弥合人类情感与机器理解之间的差距。未来,大语言模型可能被赋予更多的情感语料库。大语言模型规模大,对所有参数实施情感语料微调并不现实,这就需要指令式微调,即在大语言模型的输入序列中添加人所具有的情感情绪状态栏。利用情感计算技术将挖掘的海量情感情绪状态输入大语言模型状态栏,大语言模型就可以生成有情感的文本内容,逐渐解决文本生成缺乏创意的问题。
(二)情感计算技术加速脑神经科学的研究开发
智能技术时代,人类面临的最大健康风险是心理健康。据世界卫生组织 2022 年发布的《世界精神卫生报告》显示,全球约 10 亿人正遭受各种心理和精神疾病的困扰(世界卫生组织,2022)。作为中枢神经的大脑调节着人的心率、表情和情绪状态,情感计算是大脑调节心理健康的重要技术。
当前,情感计算技术已介入心理健康教育领域,即通过脑电图、功能磁共振成像和正电子发射断层扫描等技术,反馈诊断后的心理健康状况,并提供心理康复的对策与建议。未来,情感计算技术可加速脑神经科学在情感领域的开发研究,通过分析收集的信号精准识别人的情绪状态,预判诊断可能出现的情感状态和相应的行为并及时给予诊疗。
(三)情感计算技术识别跨文化的情感交流
随着人口迁移日益加剧,跨文化交流成为人与人之间互动的重要方式。不同区域的人具有不同的习俗习惯,存在文化交流障碍、语言信息不对称和个性化差异等问题,人与人之间因此易产生情感隔阂。同时,智能化工具助力的线上交流,加剧了人与人之间关系的疏离。情感计算技术可以通过跨文化情感识别与跟踪,分析不同习俗习惯人们的情感状态特征,构建不同地区人们之间的情感共同体。这种作用主要体现在:
1)识别人的面部结构差异,即利用情感计算技术采集不同地区人的面部结构差异特征并进行情感归类,为人与人之间的交流提供情感参考;2)辩识不同地区人口的共性情感表达,即利用情感计算技术对不同地区人口的情感表达开展共性分析归类,如情感的强烈程度、情感的含蓄程度等,增进人与人之间的情感了解,更好地表达话语情感;3)提取多重文化背景信息,即利用情感计算技术提取并归类跨文化领域中多重文化背景内嵌的信息,从而判断跨文化共同特征。比如,在外交场合,不同国家的外交人员用不同的语言表达观点和立场,其中就内嵌多重情感的文化信息。情感计算技术可通过综合分析这些文化信息,消弥跨文化关系的隔阂与疏离,从而更好地促进情感交流。
(四)情感计算技术推动行业发展
当前情感计算技术正逐渐嵌入智能机器,使智能及其拥有对情感的识别、分析、理解、表达的能力(之江实验室,2022)。随着智能机器在行业的广泛应用,情感计算技术将迎来发展高潮。在数字经济领域,情感计算可帮助企业了解和分析消费者的情感状态,将其与消费者的消费偏好和潜在需求相匹配,进而遴选目标人群、进行产品的个性化设计、精准化营销等,更好地服务消费者。在智能服务领域,情感计算可通过解读客户的情感实现产品的营销;分析领导与员工之间的情感状态,提升工作效率;识别老人的情绪状态进行情感陪护等。在金融科技领域,股票、期货、基金等金融投资很大程度上来自于投资者的非理性情绪。而情感计算技术可有效快速地分析投资者的情绪状态并预判金融投资的走向。在创意创作领域,情感计算可提取数字化文本、语音、图片和视频等的情感,并赋予音乐、诗歌、舞蹈以及话剧等情感元素,丰富创意作品的情感内涵。另外,情感计算技术在信息安全、虚拟现实和跨境电商等行业也有广阔的市场前景。这需要研究者优化情感计算技术,归类情感情绪的多重表达,作出更加精准的情感识别、判断与决策,高质量地服务人类的生产和生活。
更多资讯