学术研究 | 大语言模型:探索对话式人工智能的技术、应用与未来展望

文摘   2024-11-29 19:45   新加坡  


大语言模型 (LLMs),如人工智能聊天机器人 ChatGPT 所采用的模型,已成为人工智能领域的核心技术,推动着自然语言处理 (NLP) 领域的进步。这些模型旨在理解并生成有意义的人类语言,使人机交互更加自然流畅。

新加坡管理大学计算与信息系统学院 (SMU SCIS) 计算机科学助理教授 LIAO Lizi 以“将大语言模型应用于对话式人工智能”为主题展开研究。她曾说:“设想一下,当你希望智能助理为你预订餐厅时,它却只能理解一组有限的指令。而我的工作旨在让这些助手变得更聪明,教会它们理解更多元的请求,甚至可以预测用户的下一步需求。”


LIAO 教授的工作与大语言模型在对话式人工智能中的广泛目标相契合:创建不仅能准确响应用户输入,还能主动参与各种对话场景的系统,使整体用户体验更加愉悦和自然。由大语言模型驱动的对话式人工智能也许正在颠覆我们与技术交互的方式。无论是客户服务聊天机器人,还是虚拟个人助理,这些模式都在加强交流,使人工智能比以往更加直观、便利。


面对着如从处理模棱两可的输入、维护上下文连贯到确保无偏见的互动等诸多挑战,LIA教授的工作大胆地突破了对话式人工智能的界限

Part 01.




从领域本体到主动学习

构建更灵活的任务导向对话系统

在任务导向的对话场景中,大语言模型使基于人工智能的系统能够通过自然语言交互,协助用户实现特定目标。虚拟助手是这一领域的常见产品,旨在妥善处理诸如餐厅预订、海外旅行详尽规划等任务。然而,这些系统的效果很大程度上取决于预定义的领域本体,这在一定程度上限制了它们灵活适应动态且复杂的现实世界。

LIAO 教授解释说:“针对对话式人工智能存在的局限性,我们在任务导向对话方面的研究聚焦适应性问题,即允许系统动态学习并整合新概念。”


传统方法通常侧重于采用无监督或半监督学习范式来检测词汇异常值或识别新的槽位信息。然而,由于这些方法仅依赖于对话数据的模式特征,往往会产生嘈杂且非确定性的结果。为了克服这一问题,LIAO 教授的工作采用了一种主动学习框架,其中包括人机回圈 (human-in-the-loop) 学习。该方法利用现有语言工具提取候选值,并以此为监督信号。集成了双重标准选择方案,促使系统能够动态适应新概念和新场景,从而提高性能和可靠性。

Part 02.




被动响应到主动对话

如何提升大语言模型的交互能力

顾名思义,主动对话是指由人工智能系统主动发起的对话交流。大语言模型在理解语境脉络与生成回应方面展现出了卓越的能力,然而,它们依然面临着很大的局限性。LIAO 教授指出:“举例来说,当前的大语言模型往往难以针对含糊不清的询问提出澄清性问题,也无法拒绝不合理的请求,而这两点对于会话式人工智能代理的主动性至关重要。”

在一项关于人工智能主动对话模型的研究中,LIAO 教授及其团队探讨了模型如何在对话过程中主动提出澄清性问题并引导互动,以实现特定的目标。他们提出了主动思维链 (ProCoT) 提示方案,通过构建描述性推理链来增强大语言模型的目标规划能力,进而提升其主动性。


该方案要求系统在决定后续行动之前,执行推理与规划的中间步骤,例如生成更加精确的问题,以提升系统处理主动对话任务的能力。除了生成更多的说明性指令词汇外,ProCoT 还能在目标导向的对话中实现更为流畅的话题转换。这缓解了大语言模型的另一局限性:即难以将对话积极引向指定目标。

Part 03.




目标驱动对话的创新

RTCP 框架提升会话推广效果

除了了解用户偏好之外,在目标驱动对话中,策略性地引导用户接受指定项目是大语言模型的主要目标。这是会话式人工智能中一个独特而颇具挑战的领域。然而,当前会话推荐方法,在策略性地推介特定项目方面往往存在不足,它们通常侧重获取用户偏好,而忽视了通过吸引资源来让用户接受目标项目。


为解决这一难题,LIAO 教授及其团队开发了强化目标驱动会话推广 (RTCP) 框架。该框架旨在通过一格复杂的门控机制来平衡短期与长期规划,此机制融合了知识驱动策略与强化学习奖励,从而引导对话进程。

依据对话计划,RTCP 框架能够预判旨在吸引用户的动作组合,同时引导对话逐步趋近目标项目。“举例来说,虚拟助手可先与用户探讨某位热门艺术家,再顺势推介一部相关电影。此类框架能确保对话既引人入胜又紧扣主题,同时高效推广目标项目。”LIAO 教授解释道。


RTCP 还引入了行动导向的前缀调整方法,以生成与计划对话策略契合的回复。这样,系统就能快速适应新情景,无需进行大量的再训练,从而确保了动态对话环境中的稳健性与灵活性。实验结果表明,该团队提出的框架在自动化指标与人工评估两方面均超越了最先进的模型。


随着算法智能化程度日益提升,计算机性能越来越强大,对话式人工智能在客户服务、医疗保健、教育等诸多领域的重要性也与日俱增。LIAO 教授及其团队所推进的研究,极大地推动了大语言模型的发展,使得这些模型不仅更具直觉性和适应性,而且还能深入融入人机互动


“展望未来,多模态功能的整合,系统能够理解和响应包括文本、语音、视觉提示等在内的多种形式输入将至关重要。唯有那些能够精准预测并满足用户需求的更智能、响应更迅速的系统,方能经受住时间的考验。”她总结道。

商业信息技术硕士 (MITB)

新兴技术正飞速发展,为了满足全新的市场需求,商业信息技术硕士 (Master of IT in Business, MITB) 项目不断与时俱进,紧跟商业 IT 市场趋势,专为就业打造全方位课程。MITB 项目隶属新加坡管理大学计算机与信息系统学院 (SMU School of Computing and Information Systems, SCIS),包含四个热门方向:分析学 (Analytics)、人工智能 (Artificial Intelligence)、金融科技与分析学 (Financial Technology & Analytics) 和数字化转型 (Digital Transformation)。SMU MITB 在2025年 QS 全球商业分析类硕士排名中,位列亚洲第2,全球第24。MITB 立足于将技术置于商业环境中,并将其与领导、管理和沟通巧相结合,为学生提供丰富的带薪实习项目,从而提升他们的就业前景,助力他们攀登职业生涯高峰。因此,要想在激烈的行业竞争中脱颖而出,SMU MITB 无疑是最佳选择之一。

人工智能方向

Artificial Intelligence (AI) Track

人工智能 (AI) 的崛起正在深刻改变商业图景,并从根本上重塑我们的生活、工作和交流方式。近年来,随着企业和政府越来越依赖 AI 来应对社会和行业的重大挑战,这一趋势更加明显。


MITB 人工智能方向在新加坡和东南亚尚属首创,是对以上日益明显的趋势的直接回应。我们旨在培养新一代 AI 人才,使其具备开发 AI 工具的能力,并实施自适应闭环解决方案以解决各种商业难题。

MITB 项目2025年8月的入学申请通道将在2025年1月开放,敬请期待。如对项目或申请流程有任何疑问,欢迎添加本校官方招生小助手进行咨询,小助手将在线为您答疑~

SMU 官方招生小助手

扫描二维码,添加本校官方企微招生小助手。为您提供一对一解答服务。

推荐阅读

一文速览 | 干货满满!SMU MITB 宣讲会精选问答大盘点

► 点击阅读

喜讯!新加坡管理大学商业信息技术硕士 (MITB) 2025年 QS 全球排名蝉联亚洲第2,全球第24!

► 点击阅读

点击“阅读原文”,了解 MITB 项目更多详情!

SMU专业研究生课程招生
新加坡管理大学 (SMU) 是新加坡6所公立大学之一,亚洲著名的商科类大学 。下属的李光前商学院在2021年UTD全球商学院科研排名百强榜中位列亚洲第2,全球第35;会计学院在2022年杨百翰大学会计研究排名中位列全球第1。
 最新文章