为激荡科研思维、促进学术创新、培育信管青年科学家，2024年10月25日周五晚19:00，由中国人民大学信息资源管理学院主办、中国人民大学信息资源管理学院研究生会承办的“人大信管讲堂·青年科学家一小时讲堂”系列讲座第八十讲以线上腾讯会议的形式顺利举行。
本期讲堂邀请到了华中师范大学信息管理学院副教授王萍博士。王萍博士担任国际信息学院联盟iSchools AP-iNext亚太青年学者委员会委员，国际信息系统AIS协会会员，IT&P、I&M、JCP等多个SSCI/SCI国际期刊审稿人，主持在研国家社科基金一般项目、国家自然科学基金青年项目、湖北省自科基金青年项目、中国博士后面上项目、武汉市科技局曙光计划、湖北省博士后科技活动项目择优资助等8项，研究领域主要包括用户信息行为、智能技术适应性使用、人机交互用户行为、数字经济等。
此次讲座主题为“人机交互中的信任建立与修复”， 由中国人民大学信息资源管理学院研究生会学术部干事叶雅寒主持。讲座介绍了王萍副教授开展的以“人机交互中的信任建立与修复”为主题的两个相关研究，其一是可解释的人工智能对人机交互信任和决策绩效的影响研究，其二是幽默在人机交互中信任修复中的作用研究。
王萍老师首先分析了人机交互领域的现状。随着人工智能技术的飞速发展，人机交互在各个领域的应用日益广泛，从日常生活中的智能语音助手到复杂的工业控制系统，人机交互的形式和场景不断丰富。但这一领域也面临着诸多挑战，自然语言作为人机交互的主要方式之一，其本身具有高度的复杂性和模糊性，同一个词语在不同的语境下可能有多种含义，这使得AI系统在理解用户意图时面临困难。尽管当前的AI技术在语言理解方面取得了一定的进展，但对于一些复杂的语言情境，如隐喻、双关语等，仍然难以准确把握，这在一定程度上影响了人机交互的效果和效率。
针对这些问题，王萍老师介绍了团队在人机交互信任方面开展的两个研究相关内容。第一项研究是“可解释的人工智能对人机交互信任和决策绩效的影响”，主要关注可解释性AI在人的信任建立上的作用和决策预测的准确度。其研究动机在于AI技术日益复杂，决策过程如“黑箱”使得用户难以理解，进而导致信任缺失和决策绩效受影响，如在医疗领域医生若不理解AI诊断依据，可能就不会采纳其建议。同时，王萍老师也介绍了研究开展的政策背景和技术背景。
左右滑动查看更多
基于此，王萍老师提出了第一项研究的研究模型和假设，并对研究方法进行了介绍。研究假设主要有三个方面：一是可解释性AI可以提高人类决策的准确性和决策效率；二是可解释性AI可以提高人类对AI的信任程度；三是解释的合理性对于提高高能力人群对人工智能的信任至关重要。为验证假设，王萍老师及其团队采用了多种研究方法。设计了一系列涵盖医疗、金融和交通等领域的实验场景，模拟真实的人机交互情况，在每个场景中，设置两组实验对象：一组使用具有可解释性的 AI 系统，另一组使用传统的 “黑箱” AI 系统，针对两组实验对象开展了详细的问卷调查和实际决策任务测试。
左右滑动查看更多
第一项研究发现，可解释的人工智能的确能够显著增强用户对人机交互的信任。在问卷调查中，使用可解释性AI系统的用户对AI的信任度明显高于使用 “黑箱” AI 系统的用户。在决策绩效方面，可解释的人工智能系统也展现出优势，使用该系统的用户在实际决策任务测试中的准确性和效率都有所提高。这表明当用户能够理解AI的决策过程时，他们能够更好地利用AI的建议进行决策。
左右滑动查看更多
第二项研究为“幽默在人机交互中信任修复中的作用研究”， 其研究动机是在人机交互过程中，难免会出现一些问题，从而导致用户对AI的信任受损，而幽默在人际交往中常常被用于缓解紧张气氛和修复关系，那么在人机交互中是否也能起到类似的作用。基于此，提出假设：幽默在人机交互中能够起到信任修复的作用。
左右滑动查看更多
同样，为了验证假设，王萍老师团队设计了一系列实验。在实验中，模拟了AI出现错误的场景，并对不同组的用户采用不同的沟通方式：一组用户接收到幽默的道歉和解释，另一组用户接收到常规的道歉和解释。随后，对用户进行问卷调查和后续决策任务测试。问卷调查主要了解用户对AI的不满程度、信任修复程度等方面的感受；后续决策任务测试则观察用户在经过不同沟通方式处理后，是否愿意继续参考AI的建议进行决策。
左右滑动查看更多
第二项研究发现，幽默在人机交互中的信任修复作用具有一定的复杂性。在某些低风险领域，幽默确实能够缓解用户的不满情绪，提高用户对AI的信任度。例如，在一些低风险领域，幽默的沟通方式让用户感觉AI更具有人性化，从而更容易接受其错误并给予信任。然而，在金融投资和高风险领域，幽默的方式却可能适得其反。在这些领域，用户更期望AI能够严肃对待问题，幽默的道歉可能会让用户觉得AI不够专业和可靠，进而降低对AI的信任度。
左右滑动查看更多
分享结束后，王萍副教授就参会者提出的问题进行了耐心解答，参会者也对王萍副教授的精彩分享表示感谢。至此，“人大信管讲堂·青年科学家一小时讲堂”系列讲座第八十讲顺利结束。
END
撰稿：叶雅寒
排版：张婧妍
