向 法 问 道
2024年11月20日下午，由复旦大学法学院主办、复旦大学法学院法律89基金资助的宠惠系列讲座第十三讲“金玉其外：大型语言模型的应用前景与法律风险”在复旦大学江湾校区法学院举办。本次讲座由新加坡国立大学法学院法学院辛杰文（Daniel Seng）副教授主讲，复旦大学法学院教授陈立主持。复旦大学计算机科学技术学院教授韩伟力，复旦大学法学院教授许多奇、副教授葛江虬担任与谈人。
演讲伊始，辛教授向听众详细介绍了大语言模型的基本概念和工作原理，帮助听众建立了对这一前沿技术的基本认知。随后，他将讨论的焦点转向了一个备受关注的核心问题：在当前技术发展背景下，我们是否应该，以及在多大程度上可以信任人工智能。特别是在法律领域，关于人工智能是否能够取代律师的争议性讨论引发了与会者的广泛关注和深入思考。
在具体实践应用层面，辛教授系统性地分析了不同群体使用人工智能的可能性和限制。他通过具体案例详细探讨了律师如何在日常工作中恰当运用生成式人工智能提高工作效率，同时也深入剖析了自行诉讼人员使用生成式人工智能时可能遇到的机遇与挑战。在司法实践方面，辛教授还专门探讨了法官使用ChatGPT所涉及的伦理问题和实践考量。
辛教授在演讲中特别强调了将大语言模型误解为"智能代理"的潜在风险。他指出，当前社会中普遍存在过分拟人化理解AI系统的倾向，这种认知偏差可能导致对其能力的错误判断和不当使用。针对这一问题，辛教授深入分析了"自主代理"作为工具的本质属性，并详细讨论了在混合使用人类和AI代理数据时需要特别注意的法律和伦理问题。
在演讲的重点环节，辛教授全面阐述了大语言模型的"幻觉"问题及其可能带来的严重后果。他首先系统地分析了大语言模型产生幻觉的具体表现形式和潜在原因，继而深入探讨了这种虚假陈述可能带来的法律风险。针对这些风险，辛教授详细讨论了免责声明的必要性和有效性，并就各类声明和免责条款的具体应用提供了专业点评。
关于技术解决方案，辛教授深入探讨了检索增强生成（RAG）技术在减少幻觉方面的应用前景和局限性。他通过具体实例说明了RAG技术的工作原理和实际效果。特别值得一提的是，辛教授还全面介绍了目前各国关于生成式人工智能的监管态度和具体措施，为听众提供了国际视角的政策参考。
关于大语言模型的"幻觉"问题，辛教授提出了几点重要见解。他明确指出，大语言模型的"幻觉"倾向是一个无法完全避免的固有问题，这主要源于数据匹配与训练推理之间的技术性差异。
辛教授在总结发言时强调，在法律领域运用人工智能技术时，必须始终保持谨慎和批判性思维，确保技术辅助不会影响法律判断的准确性和公正性。他特别指出，法律从业者在拥抱新技术的同时，也要充分认识到技术的局限性，并建议建立完善的风险防范机制，确保人工智能技术在法律领域的健康发展。
在演讲结束后，辛教授与在场的法学院教师和学生进行了深入而富有成效的问答互动。讨论涉及人工智能在法律实务中的具体应用场景、伦理边界、风险防范等多个方面。参会者就人工智能对法学教育带来的挑战和机遇提出了专业见解，而学生们则对未来法律职业的发展前景表现出浓厚兴趣。这场热烈的互动讨论不仅加深了与会者对人工智能法律应用的理解，也为今后相关领域的研究和实践提供了宝贵的思考方向。
讲座学者单位与个人信息
新加坡国立大学法学院与复旦大学法学院建立了战略性合作伙伴关系，旨在促进学生和教师之间的交流与合作，推动学术研究的发展。目前两所法学院之间的主要合作涵盖交换生项目，学生可以通过交换计划在两所大学之间进行学习；以及双学位项目，学生有机会参与双学位项目，通过在两所大学完成一定学分的课程，获得两个法学学位。
辛杰文（Daniel Seng）：新加坡国立大学法学院副教授，科技、机器人、人工智能与法律研究中心联席主任，知识产权与科技法学硕士项目主任。主要研究领域为数字法学和信息通信法。2001年至2003年期间，兼任新加坡法学会技术法律开发组研究主任。毕业于新加坡国立大学（法学学士）、牛津大学（民法学学士）、斯坦福大学（法学硕士，法学博士）。读博期间开始使用机器学习、自然语言处理和大数据技术进行版权法等领域的研究。曾担任新加坡立杰律师事务所合伙人，并领导该所技术法律业务部门。
复旦大学法学院 第 511 期
