对话𝐓𝐮𝐫𝐧𝐢𝐭𝐢𝐧 AI团队负责人,了解研发AI检测技术过程中的机遇与挑战

教育   2024-10-21 17:02   上海  

尽管教学的核心始终是教师与学生之间的互动,但是人工智能正逐渐成为教育领域的重要工具,助力教育的全面发展。


Turnitin,作为全球领先的论文原创性检测工具,在这两年推出了AI写作检测功能和AI改述检测功能,希望帮助教师了解学生在作业中使用AI工具的情况。Eric Wang,Turnitin AI技术部门的副总经理,分享道:“AI检测功能显著提升了Turnitin的服务水平,为教师提供了更全面的数据参考。截至2024年4月,Turnitin已经检测了超过2亿篇文章。其中,AI检测值在20%以上的文章已超过2200万篇。这表明学生在作业中使用AI工具的现象正日益增多。”

图片来源:https://www.turnitin.com/blog/turnitin-celebrates-one-year-for-ai-writing-detection

近期,Bizclik旗下的《科技杂志》(Technology Magazine)采访了Eric Wang,探讨AI技术如何为Turnitin带来新的机遇和挑战。

Q: 能介绍一下Turnitin的AI检测功能吗?

Eric Wang:早在2020年,GPT-3刚发布的时候,我们就已经开始着手研发能检测AI生成内容的技术。当时的研究重点是大语言模型的运行原理,尤其是研究AI写作和人类写作的区别。后来,我们发现部分人群的写作风格可能与生成式AI相似,比如第二语言学习者、非英语母语国家的英语使用者,以及特定学科领域的学生等。因此,在训练模型的时候,我们考虑到了这部分人群的写作风格,以提升检测的准确性。


现在的Turnitin的AI检测功能实际上是由多个模型一起运作,这样不仅能够检测长篇英文文章中可能由大语言模型如GPT-4o、Gemini、 LLaMA生成的文本,还能进一步识别可能由AI改述工具改述过的内容。

Turnitin AI检测报告

Turnitin的AI检测功能旨在为教师评改学生作业时提供数据参考。需要注意的是,Turnitin的AI检测报告只是辅助工具,不应该成为判断学生是否滥用AI工具的唯一标准。教师还是需要根据自己的经验、学生平时的作业情况,以及学校的政策进行综合考量。

Q: 能分享一下研发过程中的机遇和挑战吗?

Eric Wang:我们在研发时着眼全局,既要考虑如何整合AI检测功能才能不影响教师的现有工作流程,也要考虑如何让AI检测功能对学生、教师和学校产生积极的影响。


一个重大的发展机遇是ChatGPT的问世,我们意识到Turnitin需要在这个关键时刻扛起重任,尽快为教育工作者提供技术支持。


Turnitin的AI检测技术,是基于Turnitin过去25年在学术诚信领域所积累的庞大数据和丰富经验而研发的。简而言之,Turnitin了解学生写作,因为这一直是我们关注的重点。我们反复对AI检测模型进行测试和调整,并通过自动化的训练流程,创建了大规模的、复杂的训练数据集,以确保AI检测模型能够持续迭代和优化。


图片来源:Turnitin Blog - Turnitin celebrates 25 years in global academic integrity


当然,开创性的工作也伴随着挑战,尤其是如何平衡检测模型的灵敏度与准确性。在权衡之下,我们决定更加关注检测的准确性。在训练模型的过程中,我们始终将学生的利益放在首位。因此,Turnitin的AI检测结果偏向谨慎和保守,仅高亮标注极可能由AI生成的句子。这也让AI检测模型的误报率能够保持在1%以下。

Q: Turnitin如何应对AI使用在教育中的道德问题?

Eric Wang: Turnitin并不认为在课堂上使用AI工具是错误或不道德的行为,关键是学生是否合理且合规地使用这些工具。Turnitin的AI检测功能并不是要惩罚和禁止AI的使用,而是希望帮助教师了解学生使用AI工具的情况,避免学生滥用AI工具。AI检测值和检测报告也不是判断学术不端的唯一标准,教师还是需要具体情况具体分析。

Q: 您对AI工具在教育领域的崛起有何看法,特别是在学术评估方面?

Eric Wang: 与以往的新兴技术不同,生成式AI不仅仅是自动化工具,它还能促进人类的高阶技能的发展。随着AI工具逐步取代机械性工作,人类将更加需要培养如协作力、同理心和创造力等能力。为了评估这些能力,我们需要进行真实性评估。借助AI工具,教师可以给学生提供更具实用性和个性化的反馈,以促进学生发展这些能力。


在这个数字化时代,真实和真诚的写作变得前所未有的重要。Turnitin致力于维护写作的真实性,我们即将推出的学生写作工具将追踪文章的编辑历史、打字速度和复制粘贴行为等过程数据,为教师提供深入的洞察,帮助他们更好地评估学生的写作过程和成果。


此外,我们还将强化Turnitin Feedback Studio的评改功能,使教师能够更迅速、更高效地提供反馈。未来,我们将继续提供多样化的服务,激励学生挑战自我。


我们相信,在AI技术的赋能下,Turnitin将成为教师不可或缺的得力助手。我们期待与师生携手共建未来。

参考资料:

· Harnessing AI in Education to Transform Student Experience 

Turnitin是全球教育科技的引领者之一。它不仅提供权威的论文相似性检测系统,还为教育工作者开发了一套全面的工具,帮助他们面对AI生成写作等新问题,并从中创造学习的机会。目前,Turnitin已经被全球约170个国家的15,000多所学校、机构使用。

iGroup是国内专业电子资源和科研资讯的服务提供商,并致力于为学术机构提供综合性的学术诚信解决方案。iGroup中国是Turnitin中国区独家授权代理。如需咨询,请联系 turnitin@igroup.com.cn








iGroup信息服务
汇聚全球资讯,助力学术科研 For all your information needs
 最新文章