动态 | AI时代诈骗犯罪理论与实务问题研讨会

会议开幕式由首都师范大学政法学院院长吴高臣教授主持召开。

首都师范大学党委书记缪劲翔书记到场并致辞，缪书记指出，首都师范大学是国家双一流建设高校，也是北京市政府和教育部“省部共建高校”，习近平总书记在2009年5月来校考察时，指出首都师范大学是一所很好的学校，特别是在基础学科方面功不可没，整个学校“基础很好、状态很好，前景也很好”。政法学院在人工智能时代的来临这个前提下，立足法学研究的本位，积极研究交叉学科所带来的新的制度治理难题，不仅符合学校发展和学科发展的需求，也回应了总书记的殷切期望。

随后，中国法学会副会长姜伟致辞，姜伟副会长首先向在场师生对首都师范大学开展七十周年校庆表达了热烈祝贺。姜伟会长提到，人工智能是一把双刃剑，既可以提高社会生产力，也给社会治理带来新的风险，深度伪造的技术工具价格低廉、容易操作，其迭代速度远超监管部门的反应速度，几乎可以危及社会各领域的法益。《中共中央关于进一步全面深化改革  推进中国式现代化的决定》明确要求完善深层次人工智能发展和管理机制也就成了应有之义，其后他对首都师范大学能够举办本次跨学科交流的研讨会进行了高度赞扬与肯定。

姜伟副会长发言结束后，全体嘉宾来到台前进行合影，会议开幕式圆满结束。

随后，研讨会第一单元“AI时代诈骗犯罪的理论问题研讨”单元在主持人黄晓亮教授妙语连珠的引导下正式开始。

第一位发言嘉宾是来自北京外国语大学法学院的王文华教授，王文华教授依托丰富的《电子商务法》立法起草经验和最近的“数字经济促进法”的立法起草调研经验，从AI技术被实际应用的平台责任说起。王教授认为，AI诈骗问题不仅是刑法问题，更多的还延伸到前置法的问题，即具有外扩性，是一个技术治理的问题，同时也是商业、产业逻辑的问题。最重要的一点即为，要认识到AI的场景逻辑问题，只有将AI置于不同的应用场景，才能具体确定应用AI平台是否进入了诈骗犯罪的规制领域。

第二位发言嘉宾是来自中国人民大学法学院的付立庆教授，付教授著作丰富，从自己的研究出发，做了以《诈骗罪的认定：以欺骗行为为中心的简单考察》的专题演说，对经典的“机器能否被欺骗”的问题做了精深论述。他指出我国《刑法》第266条诈骗罪的罪状描述是极为简约的，于是诈骗公私财物的欺骗对象是否限于人，成了有争议的问题。在这一问题上他倾向认同学界多数说的立场，认为“机器不能被骗”这个命题需要坚持。并进一步指出，若放弃对欺骗行为的限缩，过度扩张诈骗罪法网范围的后果是：诈骗罪的构成要件丧失定型性和罪刑法定主义机能，其与盗窃罪的区分将变得极为困难。在新的技术背景仍然迷雾笼罩的情况下，这样对刑法本义追本溯源的阐述无疑是十分重要的。

第三位发言嘉宾是来自北京航空航天大学的孙运梁教授，人工智能的研究恰是北航的优势研究领域，在此学术背景下，孙教授更好地立足技术与法学的交叉点，从科学概念对法学概念产生的影响展开论述。他提到，我们生活中的概念多数是定性的，而科学概念一定要能够用数学来测量，随着人工智能的发展，很多非科学概念的内涵在悄然流变，基于此，法学概念要着重考量其本身概念特征，一方面它要比日常生活概念要规范，另一方面它也达不到科学概念能够测量的程度。具体到诈骗罪的领域，传统法学中“占有”和“财产处分”的概念就受到了冲击，很多争论与分歧其实就来源于概念的流变，这需要学者们审慎观察，而法教义学在这个流变与受冲击的过程中，一如既往地发挥着使法学贴近科学的功能，最后他点出，法学是研究人和人造物的同时追求理性的科学，我们应当更多地在法教义学的范式下赋予它价值理性，任何时候都要认识到人的主体价值和尊严是不能被工具及工具理性替代的。

接下来的发言嘉宾是来自天津大学法学院的孟红艳副教授，她分享的主题是《AI时代科学概念对诈骗罪构成要件认定的启迪》，聚焦探讨在AI技术发展以及财产形式多样化的背景下，如何认定财产损失的问题。在这方面，日本理论上认为诈骗罪是对个别财产的犯罪，德国理论是认为诈骗罪是对整体财产的犯罪，整体的财产说的核心判定要素是：应当按照客观的经济衡量，比较财产处分前后被害人财产价值总额是否减少，在此基础上进行一定程度的修正，孟副教授赞成诈骗罪是对整体财产的犯罪，因为诈骗罪的不法类型与盗窃抢劫对个别财产的犯罪是不同的，诈骗罪是交易背景下的财产犯罪类型，只要被害人得到的财物一定程度上能够弥补他的损失，对财产损失进行整体核算是较为合理的。

第五位发言嘉宾是来自中国政法大学的赵志华副教授，发言题目是《生成式人工智能的数据安全风险与应对措施》，赵教授的研究对技术方面尤为关注，她的发言主要是针对深层次人工智能展开的，她提到人工智能的运作逻辑分为数据输入、数据分析、数据输出三个阶段。每一个阶段都存在风险，第一个阶段的风险就是我们的信息会被“窃取”作为数据分析的原料，第二个阶段中，海量数据可能是依托于一个不完善的算法进行训练，乃至于会产生许多荒谬的运算结论，比如，赵教授就提了一个chatgpt解不出基础数学题的生动例子，最后是数据输出阶段，这阶段是最容易被不法分子利用的。针对上述现象，赵教授都进行了深入浅出地分析了由谁治理？治理范式是什么？具体治理手段是什么等问题。

第一单元的讨论结束后，进入到了本单元的点评环节，第一位点评嘉宾是北京大学法学院文科一级教授陈兴良。陈教授坦言，此前他对人工智能犯罪的研究方向有一点“跑偏”的担心，但在对相关领域进行了解以及参与本次研讨会的基础上产生了几点新的想法：首先，刑法学者应当积极应对人工智能犯罪时代的到来，刑法理论研究应当有所作为。其次，他认为在探讨人工智能犯罪问题时，要区分弱人工智能和强人工智能，前者只有在将其作为犯罪的工具考察时才有意义，至于强人工智能的犯罪主体性能否成立问题，我们可以做适度的预见性研究，但不能将研究基础完全放在幻想上，这样会导致研究走向没有根基的“科幻法学”。最后，陈教授点出，人工智能犯罪研究，包括立法的研究与司法的研究这两个方面，两个方面都有诸多待解决的问题。

第二位点评嘉宾是北京师范大学的卢建平教授，卢教授首先用了一个精妙的比喻开场，即每个人都是一部深度学习的机器。他谈到，我们这些在学院里学习的人和在另一个空间里学习的人，即那些利用技术想方设法从他人口袋榨取金钱的人的区别何在？犯罪的破坏力某种程度上是社会的驱动力之一，但正如经济学家熊彼特所言，这到底是“创造性的破坏”还是“破坏性的创造”呢？尤其是技术犯罪，他总是给我们带来许多新的困惑和思路。其次，卢教授用《猫和老鼠》动画片做了一个比喻，认为我们的研究不能仅仅局限于“猫捉老鼠”的追赶式治理，要进行一定的前瞻性研究，相信人类的智慧，从人类的基本理性出发去做前瞻性的思考，当然，也要承认人类普遍理性的固有局限。他又举了电影《机械姬》中所涉及的阿西莫夫机器人三定律作为点评的未来展望，并作出了期待“后浪们”作为新一代“深度学习机器”带来新成果的结束语。

陈教授的点评高屋建瓴，分量十足，卢教授的点评幽默风趣又发人深省，两位嘉宾的点评结束后，第一单元的讨论也完满结束，会场进入了十分钟的茶歇休息时间。

茶歇结束后，进行了第二单元的研讨，“AI时代诈骗犯罪的实践问题研讨”，由首都经济贸易大学刘传稿副教授作为主持人开场。

第一位嘉宾是来自北京尚梓律师事务所的李红钊律师，他的发言题目是《人工智能诈骗犯罪在司法实务中的几点问题》。他认为，有必要将人工智能做弱人工智能与强人工智能的区分，关于前者，遵循一般的治理逻辑即可，因为它带有明显的机械属性，对行为结果没有判断力和认识能力，不具备意志因素和意识因素。但是对于强人工智能乃至超人工智能呢？他认为不能对超人工智能的刑事责任采取简单的否定说或肯定说，而是因为其设计者和产品本身都具备自由自主决定并实施行为的能力，应该采取二元限制刑事责任结构较为合理。从社会经济发展来看，将来人工智能发展后，若对其不进行限制，而只是追责开发者，那么有问题的人工智能还能继续运行并产生危害，因此对软件本身也应采取诸如销毁、关停、修改等惩治。其后，李律师又介绍了作为辅助工具的弱人工智能对传统诈骗带来的认定难点与正确认定和把握的要点。

第二位嘉宾是来自北京市朝阳区人民检察院的石林山检察官，他的发言题目是《以“手机口”方式实施电信诈骗的认定》。石检察官从案例出发，让同学们有了更为直观地感受。其中一起案件涉及跨境电信诈骗，田某通过加密软件与境外电诈团伙取得联系，伙同团伙在北京市朝阳区多个酒店辗转，架设、维护“手机口”设备，为境外电诈分子提供通信传输帮助，最后查证田某等人使用作案手机号关联到的诈骗金额为100余万元。该案件事实简单，但实际办理并不简单。首先是上游犯罪在境外，境内犯罪分子频繁更换作案地点、手机号等导致的破案难；其次是证据的收集与金额认定难；再次是主观明知的认定难，本案的主要犯罪嫌疑人都不能主动供述，嫌疑人之间也不会谈及具体作案情况，很难通过聊天记录等客观证据来印证主观明知，办案人员从初犯、偶犯进行突破，通过口供和部分聊天记录相互印证的方式来综合证明；最后是罪名认定的问题，公安机关移送的罪名是帮信罪，检察机关最终的认定还包含了对诈骗罪的指控。该案最终被评为北京市检察机关2023年度打击治理电信网络诈骗犯罪典型案例，对类似案件的侦办起到了帮助与指引作用。

第三位嘉宾是来自北京市第二中级人民法院的杨子良法官，他的发言题目是《AI诈骗案中生成式人工智能服务提供行为的刑事责任分析》。杨法官主要探讨的是在现有的法律框架下，我们的有些罪名能不能够用来应对AI时代的诈骗犯罪。第一个罪名是非法提供侵入、非法控制计算机信息系统程序、工具罪，生成式人工智能虽然不属于专门用来犯罪的工具，但刑法第285条第3款规定的罪状从文义理解上可以将其囊括进去，在司法实务中也可以检索到相关生效裁判，例如全国首例的“AI外挂”案。第二个罪名是帮助信息网络犯罪活动罪，杨法官认为否定提供者存在“明知”不合逻辑，也不符合事实；即使需要平衡科技创新和风险防范，也应当是在法律框架下进行。第三个罪名是拒不履行信息网络安全管理义务罪，对于人工智能的提供者来说，我们目前出台了新的法规与司法解释，为其设置了相应的义务，该罪名的适用，对于打击防范也能起到一定的作用。

第四位嘉宾是来自北京理工大学的彭海青教授，她的发言题目是《AI时代电信网络诈骗犯罪的程序法应对》。彭教授首先概括了现状与治理困境，AI诈骗呈现出手段多样化、精准高效性与隐蔽性三个特点，受害群体有着年轻化趋势，且除了经济损失严重外，还存在着心理创伤与社会信任危机。技术应对不足、跨部门协作不畅、法律法规滞后与公众防范意识薄弱是目前所面临的治理困境。面对以上问题，彭教授提出了切实可行的应对措施。首先在立案阶段，应当明确立案标准，规范立案流程；其次在侦查阶段，应当强化侦查取证的规范性，用科技手段提升侦查能力，并严格审查案件事实与证据，依法适用不起诉制度；最后在审判阶段，应当确保庭审的公开透明和公正性，并依法认定犯罪事实和量刑情节，完善上诉机制以保证当事人权益。AI诈骗往往是跨国犯罪，为更好应对，彭教授提出国际应通力合作，完善涉外证据收集审查机制，探讨涉外判决与执行问题，强化国际法治交流，共同防范风险。

清华大学法学院院长、全国人大常委会委员、宪法和法律委员会副主任委员周光权教授对本单元的发言进行了点评。周教授认为，某些人工智能技术被诈骗犯罪行为人滥用，给公众造成了巨大的财产损失，司法机关在惩治电信诈骗等犯罪方面做出了很大贡献，积累了很多经验。当然，人工智能与刑法的对话，还有一些基础问题需要面对。比如，无论人工智能技术多么强大，它都不能成为独立的犯罪主体或是独立承担侵权责任。刑法学中讲责任主义、罪责原则的时候，包含了宪法的要求，即宪法尊重人的自主意识和自由，因此要为自己的行为负责，而机器通过分析数据来学习，其所谓的“意志”，实际上是生产者使用者灌输的。将机器视为犯罪主体，是对刑法教义学的一些基本原理和底线的冲击，也与法学上的自由意志概念相矛盾，再高级的人工智能，追根溯源仍然是人的价值取向与选择，犯罪主体只能是人而不是机器。人工智能技术的发展确实对犯罪学思维和刑法学思维怎么紧密地结合起来提出了新的挑战。面对人工智能提出来的这些新问题，刑法教义学确实要认识到犯罪学当中所提的一些基本理念，比如说犯罪是正常的，虽然这令人遗憾。犯罪同样对这个社会有一些特殊的功能。犯罪的一个现实功能就是让我们在发展人工智能技术的同时，迫使我们同时要考虑到这个技术有可能有什么漏洞，是不是可能被犯罪分子利用，同时把应对措施都考虑得很周密，这对于法律发展，无疑起着积极推动作用。

第二位点评嘉宾是最高人民法院咨询委员会委员、中国法学会案例法研究会会长胡云腾同志，他在点评阶段提出，人工智能，即便是超人工智能亦不能成为犯罪的主体，而只能充当自然人犯罪的工具，人工智能与刑法的交互重在考察开发者、维护者、管理者的责任，并进一步指出要对最终获益者进行穿透性的追责，法学问题的教义学研讨与实践研讨是不应当也不可能割裂探讨的，最后他对本次会议取得的成果进行了高度肯定。

接下来的环节是自由讨论环节，由法学系主任李昕教授主持，她邀请现场的学生与嘉宾积极互动，最终有三名同学把握住了这次机会。

第一位同学提出了自己的问题：如果承认人工智能的犯罪主体地位，那么对其“主观思维”要考察到代码层面为止还是考察到行为外观即可呢？即便采取开发者责任主义，对开发者追责的依托是否需要细化到代码层面呢？

第二位同学总结了参会收获：一些此前困扰我的问题得到了解答。例如之前在理解“机器能否被骗”这个问题时，朴素的法律观会告诉我，机器不能被骗，但今天听到老师关于这个问题的回答，才真正如醍醐灌顶。在人工智能快速发展时代，应当坚持人的主体性，法学作为社会科学，应当具有一定的价值取向，保有人的基本尊严。机器是随着科技发展而产生的附属品，是人的创造物，就其本质来说，是无法与自然人相提并论的。

第三位同学表达了自己力所能及运用法律知识服务社区的意愿：身为一名法律学子，很荣幸跟着诸位法学大咖叩响AI法学时代的大门。正如诸位教授所言，利用AI手段诈骗犯罪案件层出不穷，理论与实践的追赶也势在必行，在理论指导下，我们这些法学生们也在与社区、派出所和中小学共建，以实际行动守护人民群众的生命和财产安全。

会议到此进入闭幕式阶段，由首师大政法学院肖怡教授发言致谢，肖怡教授称本次研讨会是一场“兼具理论与实践的学术盛宴”。一上午时间不知不觉已经悄然逝去，大家慷慨陈词，颇有意犹未尽之感，但相信今天的听众已是大有所得、受益匪浅。她代表首都师范大学和主办方首师大政法学院向各位嘉宾的指导与点评真诚致谢，也非常感谢到会的首都师范大学和兄弟院校的学生们，以及会务组的小伙伴们。

本次研讨会请来了学界和实务界多位重量级嘉宾，可谓大咖云集，会议的成功举办，为首都师范大学政法学院乃至全校师生提供了一个与顶尖学者面对面交流学习的宝贵机会，为众多兄弟院校的学术交流搭建了一个高规格的平台，更为学术界与实务界之间搭建起了一座沟通与合作的桥梁。与会嘉宾的真知灼见，不仅拓宽了师生们的学术视野，更为政法学院在人工智能与法学交叉领域的研究指点迷津、提供了前瞻性的思路。它不仅是学校七十周年高质量发展大会系列活动的重要组成部分，更是政法学院站在新的历史起点上，不断追求卓越、勇攀学术高峰的生动写照。