任伟 等 | 英语写作教学中ChatGPT与教师反馈的对比研究

文摘   2024-11-13 00:02   上海  

点击蓝字关注我们

英语写作教学中ChatGPT与教师反馈的对比研究

任伟 刘远博 解月

北京航空航天大学外国语学院

任伟

任伟,北京航空航天大学外国语学院教授、博士生导师、博士后合作导师、副院长。主要研究领域为二语语用,研究兴趣涵盖语用学、二语习得等。担任中国逻辑学会语用学专业委员会副会长、中国英汉语比较研究会二语习得研究专业委员会常务理事等。


摘    要:

本研究对比分析了ChatGPT和英语教师对学生英语作文反馈在态度和表达上的异同。结果表明,ChatGPT所做的积极反馈数量高于英语教师,尤其是在结构方面;ChatGPT反馈表述方式更为直接,通常会直接纠正学生作文中的错误或对作文进行评论。最后,研究探讨了教师与ChatGPT反馈策略在提高学生写作上的优劣势,建议采用两者结合的反馈方式,以期更好地提升学生的写作技能。

关键词

ChatGPT;教师反馈;写作教学;反馈态度;反馈表述;

文献来源: 任伟,刘远博,解月.英语写作教学中ChatGPT与教师反馈的对比研究[J].外语教学理论与实践,2024(4):30-38+60.

01

引言

在写作教学中,反馈是提升学生写作能力的重要手段。有效的反馈有助于学生提高写作文本的质量(K. Hyland, 2013)、加深对写作规范的理解(Bangert-Drowns, Hurley, & Maniee, 2004;Hattie & Timperley, 2007),提高学生对写作任务的投入和积极性(Higgins, Hartley, & Skelton, 2002)。传统的教师反馈通过对学生文本中的错误或优点做出书面回应,在效率和数量上受到很大的限制(Lee, 2014)。近年来,随着人工智能的发展,基于自然语言处理模型的ChatGPT以其高效、大量的反馈能力备受关注,也为外语写作教学提供了更多的可能性(陈茉、吕明臣,2024)。然而,二语写作不仅要关注反馈效率,还需考虑反馈质量、反馈策略和学生对反馈的接受度。因此,本研究旨在对比分析ChatGPT和教师对学生英语作文的反馈,从反馈态度和反馈表述两个维度探究二者在二语写作反馈中的异同,以期为丰富二语写作反馈研究和教学实践提供参考。

02

ChatGPT在外语教学研究中的应用

ChatGPT是由OpenAI开发的一种基于大语言模型的人工智能系统,最早可以追溯到OpenAI 2018年发布的初代GPT模型。经过改进和优化,逐步升级到了ChatGPT-4,为用户提供更加流畅、准确的对话体验。其发展历程涵盖了模型架构的演进、训练数据的丰富、参数规模的增大以及技术性能的提升。ChatGPT在对话生成、文本摘要、语言理解等方面具有出色的表现(朱光辉、王喜文,2023),在对话系统、智能客服、教育辅助等领域也展现了广阔的应用前景。作为一种强大的自然语言处理工具,ChatGPT正在不断拓展其在各个领域的应用范围,为人们提供了更加智能化、便捷化的交流和服务方式。

ChatGPT对外语教学的影响受到了学者们的关注。其在外语教学信息检索、学习互动、教案生成、评阅测试等方面发挥了显著的作用(蔡薇,2023)。在翻译学习方面,文旭、田亚灵(2024)发现,相较于谷歌、有道、Deepl等传统翻译工具,ChatGPT可以提供更高质量的译文,且在隐转喻识别、句子结构、文化敏感度、词语准确性等方面均优于其他翻译工具。在二语写作上,ChatGPT可以用于英语作文的写作,虽然在句法和深度上,其生成的英语作文相较于英语学习者的作文有一定缺陷,但在作文的叙述性、词汇使用、引用及论点深度凝聚性等方面优于英语学习者(Zhou, Cao, Zhou, Zhang, & He, 2023)。

随着ChatGPT等人工智能技术的普及,教师在教学中的角色也在发生变化。ChatGPT可以起到辅助教师教学的作用,为教师提供教学资源和课程设计支持,也可以协助教师指导学生的口语和写作练习(胡壮麟,2023)。在写作教学中,ChatGPT在不同阶段(写作前、写作中、评阅、反思)对教师都有不同的协助作用(陈茉、吕明臣,2024)。例如,ChatGPT在理解语言模式方面的能力可被用于纠正语法错误和润色语言,协助教师指出并纠正学生二语作文中的错误,提出修改建议,提高教师批改效率(Deng & Lin, 2023)。

已有研究调查了ChatGPT与教师在评阅与纠错方面的准确性。Pfau, Polio, & Xu(2023)发现ChatGPT可以较准确地识别出作文中的准确性错误,且与人工识别出的错误有较高的一致性,但是ChatGPT在错误识别一致性方面仍存在一定的局限性。Mizumoto & Eguchi(2023)通过对比ChatGPT对作文的打分和基准水平,发现采用ChatGPT进行自动化作文评分具有一定的可靠性,特别是与语言学特征(如词汇、衔接、语法等)相结合时,ChatGPT可以有效地预测专业人员的评分。

也有研究分析了ChatGPT在二语写作反馈中的应用。例如,Guo & Wang(2023)对人工和ChatGPT的评语进行了对比,发现ChatGPT的评语不仅数量较多,且均衡分布于结构、内容和语言三个维度上;同时,ChatGPT在内容方面的反馈以表扬为主,在结构方面的反馈以建议为主,且通常倾向于使用直接反馈。魏爽、李璐遥(2023)对比了ChatGPT相较于英语教师在初阶语法修改、中阶语言润色和高阶概括输出方面的优势,发现相较于教师而言,ChatGPT对结构、内容、语言等方面的反馈在数量上较为均衡且多倾向于使用直接反馈。过往研究显示,尽管ChatGPT已被广泛应用于外语写作教学,但是ChatGPT在个性化辅导和提升学生自主学习能力等方面是否存在局限性,其反馈态度和具体反馈策略是否适用于我国学生英语写作等问题,仍需更多实证研究探索,以增强对二语写作教学实践的指导。

03

二语写作中的反馈研究

二语写作反馈研究通常从反馈来源、反馈范围和反馈策略这三个维度入手,探究如何通过反馈手段促进二语习得并提升学习者二语写作的复杂度、准确度和整体质量(苗佳、姚委委,2023;韦晓保、施清波,2016)。首先,写作反馈根据来源可以分为教师反馈、同伴反馈和自动评价系统反馈三种类型。因为这三种反馈模式优势互补,所以近年来的反馈研究往往推荐建立融合三者的多元反馈模式(段玉捷,2021;许洪、张云勤,2018)。其次,写作反馈根据范围即反馈所关注的写作要素数量,可以分为聚焦(Focused)、无聚焦(Unfocused)及中度聚焦(Mid-focused)反馈三类(Liu & Brown, 2015)。聚焦反馈是针对单一或有限数量的写作要素的反馈,无聚焦反馈指针对多个写作要素的反馈。聚焦型反馈的关注对象既可以是语言形式也可以是写作内容(Kang & Han, 2015;Shintani, Ellis, & Suzuki, 2014)。最后,写作反馈根据策略可以分为直接反馈、间接反馈、元语言反馈三大类型(R. Ellis, 2009)。直接反馈是直接对学生的错误进行修改;间接反馈是通过下划线或其他方式标注错误的位置,但是不提供对错误的进一步解释;元语言反馈则是根据错误的本质提供语法知识,帮助学生理解和纠正错误。以教师反馈为例,研究显示教师反馈中直接表述和间接表述的比重大体相同,且多使用无聚焦反馈(Ferris, 2006;Lee, 2004);就反馈效果而言,直接反馈更有利于学习者识别和改正错误,效果明显优于间接反馈和元语言反馈(Ferris, 2006)。

除上述传统写作反馈机制外,近年来,二语写作反馈研究领域通过借鉴和融合口语反馈机制,成功拓宽了研究视角。相较口语反馈,写作反馈中隐性反馈不多见(Li & Vuono, 2019),所以以往研究关注较少。隐性反馈(Implicit Feedback)和显性反馈(Explicit Feedback)是由Ellis, Loewen, and Erlam(2006)提出、用于研究口语反馈的分析框架。隐性反馈指在交流过程中不明确指出错误,而是通过修改、重复学生的话语来间接提供反馈,帮助学生自然地学习和纠正话语中的错误(S. Carroll, Swain, & Roberge, 1992; Iwashita, 2003; Muranoi, 2000)。相反,显性反馈则是直接指出错误并提供正确形式(S. E. Carroll & Swain, 1993),也可以采取提供元语言知识的方法来纠正话语中的错误(Lyster, 2004)。口语反馈中的显性反馈大体对应写作反馈中的直接反馈和元语言反馈,口语反馈中的隐性反馈大体对应写作反馈中的间接反馈。由此可见,虽然书面反馈和口语反馈存在模式上的差异,但彼此的相似和互补不可忽视。口语反馈研究对隐性反馈策略的分类和描写为写作反馈研究提供了很好的借鉴。针对教师课堂用语,Lyster and Ranta (1997)提出重铸(Recast)、明确纠正(Explicit correction)、元语言反馈(Metalinguistic clue)、征询(Elicitation)、重复(Repetition)和澄清请求(Clarification request)六种口语反馈类型。其中的“重铸”策略,作为一种隐性反馈,也可出现在写作反馈中,作为写作反馈的研究对象(Mohammadi, 2009;韦晓保、施清波,2016)。因此,本研究在采纳Rod Ellis(2009)书面反馈策略的基础上,同时参考口语反馈研究的观点,如韦晓保、施清波(2016),来构建针对二语写作的反馈策略分析框架对所收集的数据进行分析。

此外,因为反馈信息对学习者情绪有调节作用,进而影响反馈信息的理解和接受程度,近年来的写作反馈研究也开始关注反馈语言所蕴含的态度(Mahfoodh, 2017;周杰、王俊菊,2022)。按照反馈表述侧重肯定、鼓励还是批评、纠错,写作反馈可以分为积极反馈和消极反馈(Martínez-Flor, 2023)。积极反馈指对学习者所作的正面陈述,主要包括称赞学习者的表达形式或文章的结构、内容。例如:“文章的结构整齐,逻辑性较好,能够清晰地表达作者的观点”等。消极反馈则指表明学习者的话语缺乏准确性或是一种纠正的意图,包括指出作文中的语法错误或词汇拼写错误,或者指出文字在内容和结构方面待改进的地方。例如:“需要在语言和内容的准确性上进行一些改进”;“twenty应该首字母大写”;“缺乏具体例子和数据支持其论点”。现有研究显示,消极的、纠正性反馈并不一定触发学习者的消极情绪(Han & Hyland, 2019),而积极的、鼓励性的反馈不仅使学生更容易接受,还能促使他们采纳修改意见(Guo & Wang, 2023)。

在二语写作学习中,反馈对学习者修正错误和提高语法的准确性有显著作用(Truscott, 1996)。然而,不同类型的反馈在教学中发挥着不同作用,选择合适的反馈策略对提升二语写作质量至关重要(Bitchener, 2008;Frear & Chiu, 2015;Sheen, 2007)。例如Hanaoka & Izumi(2012)分析了重铸策略对于语言学习的促进作用。也有学者通过对比不同反馈策略,发现相较于明确的反馈,间接反馈更有助学习者二语写作能力的提升(张萍、郭红梅,2007)。然而,还未有研究从具体反馈策略和态度角度系统分析ChatGPT和教师反馈的异同。因此,本研究从反馈策略和态度的角度出发,调查ChatGPT和大学英语教师对学生作文的反馈,以期促进ChatGPT在外语写作教学的应用,促进教师结合ChatGPT提高写作教学反馈的效率。本研究旨在探究以下2个问题:

(1) ChatGPT和教师对学生英语作文的反馈态度有何异同?

(2) ChatGPT和教师对学生英语作文的反馈策略有何异同?

04

研究设计

4.1 数据收集

本研究基于50篇大一非英语专业学生在英语写作课上有关“The cars in twenty years”的作文展开,收集了英语教师以大学英语六级作文为批阅标准对上述50篇作文的反馈。同时将上述50篇作文输入ChatGPT4.0,让其同样以英语六级作文标准对以上作文进行批阅。为保障反馈的有效性,研究输入了以下2个指令:1. 对作文以大学英语六级的标准进行修改评阅。2. 对作文的修改和评阅请从结构、内容、语言3个角度出发。之后提取ChatGPT4.0对每篇作文的反馈。

4.2 数据分析

本文在NVivo软件的帮助下,使用扎根理论框架(Corbin & Strauss, 2008)对反馈策略进行了编码。本研究首先通读收集到的所有反馈,识别并编码反馈中的策略;其次,我们将具有相似功能的策略归为一类,并在R. Ellis(2009)和韦晓保、施清波(2016)已有分类的基础上进行命名。然后,编码过程经过多轮阅读、分析和讨论中反复进行,最终确定使用的反馈分析策略,见表1。

经统计,本研究共收集了大学英语教师对上述50篇作文的反馈348条,ChatGPT4.0的反馈449条。就数量来看,ChatGPT所生成的反馈数量远高于英语教师批阅得出的反馈。

为保证编码的可靠性,这些数据由2位研究人员编码。我们提取2位研究人员前20%的编码数据进行比较,结果表明,Cohen's kappa系数为0.8305,一致性为97.78%,表明两位研究人员的编码具有很高的一致性。


05

研究结果

5.1 反馈态度

为了详细分析ChatGPT与教师在反馈态度上的异同,本文在对比二者对学生作文给出的积极反馈和消极反馈的数量和比例的基础上,还对比分析了二者对学生作文中不同反馈对象的态度。大学英语六级的评分标准包含“主题是否贴切”、“是否表达题目规定内容”、“是否有语言错误等指标”。因此,对学生作文反馈的分析集中于结构、内容、语言3个方面,结构上的反馈侧重于关注作文的整体架构和各部分之间的逻辑性;内容上的反馈侧重于关注作文的主题是否明确,是否覆盖题目的全部要求,对作文中所涉及论点的诠释是否到位等方面;而对语言的反馈则侧重于关注作文的语法、词汇拼写和语言表达(Guo & Wang, 2023)。因此,本研究从结构、内容、语言3个角度对比ChatGPT和英语教师的反馈态度。


表2展示了英语教师和ChatGPT面向不同对象时的反馈态度。可以看出,总的来说,无论是教师还是ChatGPT批阅,消极反馈的数量都多于积极反馈;但是ChatGPT所做出的积极反馈的比重远高于英语教师,这表明相对于教师反馈,ChatGPT对学生的作文积极反馈更频繁。

就不同反馈对象来看,研究发现,无论是英语教师还是ChatGPT,教师和ChatGPT对语言的反馈都占比最多,可以看出二者在批阅时都更关注作文的语法和语言表达,但是二者对语言的反馈却都以消极为主,尤其是教师。这侧面体现了教师在语法和语言表达上的严格程度。ChatGPT和教师的积极反馈多集中在作文的结构和内容方面,尤其是ChatGPT,其不仅在对结构和内容反馈中持积极态度的比重都远高于教师,对于结构和内容反馈的数量也均高于英语教师,表明ChatGPT能够更好的兼顾作文整体结构和作文内容方面的优点。

5.2 反馈表述

表3呈现了ChatGPT和英语教师的反馈表述策略。如表3所示,在对学生的作文进行修改时,ChatGPT和教师都更倾向于使用显性反馈,尤其是ChatGPT,使用隐性反馈的次数为0;而教师给出的隐性反馈也主要限于澄清请求策略,往往在学生作文语言表达出现表意不清的情况时,才会使用澄清请求策略。例如:“这里所表述含义是什么?”,用于指出作文中无法理解的表述。

在对显性反馈的使用中,教师和ChatGPT都频繁使用明确更正策略,即直接纠正作文中的错误,如:改为“leading to...”;“carpet pollution”应为“car pollution”,通过直接指出错误并修正,便于学生理解错误。相比于ChatGPT,教师更为频繁的使用元语言反馈策略,指出并解释学生写作中的具体语言错误,为学生修改提供线索,但不明确提供正确的形式,以达到引导学生学习,自主改正的目的。例如,“时态在这里使用错误”,教师为学生指出了错误的地方和修改的方向,引导学生自己去改出正确的时态。相比之下,ChatGPT则更倾向于对学生的作文给出直接的评论,尤其是直接表扬,例如:“文章结构清晰,每一段落都有明确的中心思想,并且逻辑性强,易于理解。”


06

讨论

本研究对比了ChatGPT和大学英语教师在对学生英语作文进行批阅反馈时的异同。总体而言,ChatGPT在英语作文错误识别上与英语教师存在一致性。这一发现和以往研究结果一致(Mizumoto & Eguchi, 2023;Pfau et al.,2023)。就反馈态度来看,无论是ChatGPT还是英语教师,均以消极反馈为主,且消极反馈多集中于对作文的语言方面;在表述方面,二者均多使用显性反馈,且显性反馈中“明确更正”策略在ChatGPT和教师的反馈中均出现次数最多。

同时,研究也发现了二者反馈时的差异。在反馈数量上,ChatGPT生成的反馈数量远多于英语教师,尤其是在对学生作文结构的反馈数量。庞大的语料库支撑和大语言模型使得ChatGPT可以生成更多的针对作文整体架构的反馈(令小雄、王鼎民、袁健,2023)。ChatGPT的效率也远高于英语教师,其完成对本研究中50篇英语作文的批改和反馈仅需不到1小时,证明了ChatGPT可以作为有效的自动写作评估工具,在短时间内可以为学生提供大量的有效反馈(Hockly, 2019)。

其次,ChatGPT与英语教师反馈的差异还体现在反馈态度上。ChatGPT在结构、内容、语言方面相较于英语教师都提供了更多的积极反馈。尤其是在结构和内容方面,ChatGPT总的积极反馈数量均高于英语教师。以往研究显示,积极反馈有助于提升学生对于写作的兴趣和参与度,通过促进学生为提升写作技能和质量付出更多的努力,进一步提升学生的写作技能和表现(F. Hyland, 1998)。而面向内容的反馈有助于学生对论文的实质性修改,采用积极的反馈形式有助于学生接受和采纳修改意见(Guo & Wang, 2023)。因此,在反馈效果和学生接受度方面,ChatGPT反馈或许比教师反馈更有优势。

ChatGPT与英语教师反馈的差异也体现在反馈的表述策略上。纵然二者都更倾向于使用显性反馈,但ChatGPT使用明确纠正策略的比重远高于英语教师;而教师在使用显性反馈的情况下更倾向于采用元语言评论策略,即指出并解释学生写作中的具体语言错误,但却不明确告诉学生正确的形式。也就是说,ChatGPT倾向于告诉学生该做哪些修改,而英语教师则倾向于通过传递信息的方式来引导学生进行错误修改和语言润色。明确纠正的方式虽有助于学生快速识别并纠正错误,从而改善写作质量,但是也可能导致学生依赖ChatGPT的纠正而不是自主学习,减少学生对自己错误的自我反思和修正能力(Varnosfadrani & Basturkmen, 2009)。

综上,本文发现,对于英语写作教学而言,ChatGPT相较于英语教师具有诸多优势,其反馈效率较高,所生成的反馈数量也较多,而且其提供的反馈不仅有助于提升学生的写作兴趣,也便于学生快速识别并纠正错误,这可以对教师的写作教学起到极大的辅助作用。但是,ChatGPT并不能完全取代英语教师在写作反馈中的角色,其反馈也存在一些问题。首先,虽然ChatGPT具有较高的反馈效率,但是需要使用者输入明确恰当的指令,这意味着教师的辅助不可缺少;其次,ChatGPT过于直接的纠错方式会对二语写作教学带来一定副作用。由于ChatGPT通常会直接给出正确的表达方式,很大程度上会导致学生在修改作文时过分依赖ChatGPT而不是独立思考,长期如此将不利于甚至有害于学生写作能力和创新能力的提升。

07

结语

本研究对比了ChatGPT和大学英语教师对学生英语作文的反馈。研究发现二者在错误识别和反馈类型上存在一定的一致性。但在对不同对象的反馈态度、反馈类型等维度仍存在较大差异。就反馈质量和效率而言,ChatGPT表现较为优异,尤其在结构的反馈上,可以达到英语教师无法实现的效果,其积极反馈也有效弥补了教师反馈对于学生积极性的忽略。这表明了ChatGPT可以作为一种有效自动写作评估工具辅助外语写作教学。

然而,ChatGPT的反馈也存在不可忽略的缺陷,例如,其反馈表述过于直接,没有为学生提供对自身错误的反思和自我纠错的机会。同时,ChatGPT相比于英语教师也缺少对学生具体写作水平的了解,无法在反馈中对学生进行引导,这些特点不利于学生独立思考能力的养成和写作能力的提升。

因此,教师在二语写作教学与反馈中的作用依然关键。特别是在基于学生实际英语写作水平做出“引导性”及“个性化”反馈方面。随着ChatGPT模型的不断优化,或许在未来可以做到基于学生作文文本了解学生实际写作水平,从而给出最有利于提升学生写作水平的反馈。但是,针对大多数的二语写作教学和反馈任务,在保障反馈的效率与全面性的基础上兼顾对切实提升学生二语写作能力的考量,教师与ChatGPT的结合依然是最佳反馈途径。


编者按

欢迎查阅《外语教学理论与实践》2024年第4期纸质原文。

本文编辑:孙雨

郑重声明:本公众号推送的文章不能代表本公众号立场。本公众号推送的学术会议、博士招生不负责对接解释。有任何疑问请按照推送内容的官方联系方式对接!如果学术会议、博士招生有任何官方调整,责任不在我方。我们优先推广免费的学术会议、讲座、研修等项目。


主流学者关注了

语言治理

科研助力|学术观点|专著推荐|期刊动态|教师研修|招贤纳士|博士招生|读书小札

请留下你指尖的温度

让太阳拥抱你

记得这是一个有情怀的公众号

球分享

球点赞

球在看

语言治理
发布最前沿的语言研究信息,发现平淡生活里语言的奥秘。
 最新文章