【探讨】以人工智能为诈骗手段纳入诈骗罪加重情节可行性研究

学术 2024-10-13 08:02 湖南

点击蓝字关注我们

您对“以人工智能为诈骗手段纳入诈骗罪加重情节可行性研究”有何见解呢？关于本文的思考欢迎大家留言或投稿参与讨论。对于本微信公众平台发送的原创稿件，将结合阅读量酌情给予奖励，湖南省刑事法治研究会每年还会对原创文章进行评奖并给予不同的等级奖励。期待您的来稿！

投稿邮箱：hnsxsfzyjh@126.com

摘要：人工智能作为现代化科技迅猛发展的产物，在人类生活中扮演着关键角色，特别是生成式人工智能的诞生，颠覆了人们对传统人工智能的固有认知。其具备深度自学的特质，搭配AI换脸变音技术，可能催生难以识别的人工智能人。利用人工智能手段实施诈骗，相较传统方式更具迷惑性，令人难以防范。科技发展趋势不可逆转，我们需借助法律规制手段预防此类新型诈骗，将以人工智能方式实施诈骗列为法定加重情节对遏制此类犯罪意义重大，同时也为未来应对诸多人工智能型犯罪开辟了广阔的探索空间。

关键词：人工智能犯罪；法定加重情节；诈骗罪；法与科技

一、问题的提出

人工智能发展日新月异，作为犯罪手段令人猝不及防。人工智能是现代化科技高速演进的成果，在人类生活中占据举足轻重的地位，尤其是生成式人工智能的出现，彻底刷新了人们对传统人工智能的认知。生成式人工智能乃是基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的先进技术。以美国Open AI公司推出的Chat GPT最为典型｡Chat GPT（Chat Generative Pre-trained Transformer）融合了大数据挖掘､深度学习､语言预训练等前沿科技，以GPT-3.5为基础模型，能够学习和领悟人类语言，并依据聊天的语境与人类展开交流，展现出颇高的“智能性”｡对其赞誉有加的人宣称，“Chat GPT的变革意义堪比半导体芯片”，“如Chat GPT这般的人工智能，与个人电脑､互联网同等关键”,“Chat GPT是继互联网､智能手机之后，人类的又一革命性产物，它将引发人类思维的重大变革”｡

其深度自学的特性，加之AI换脸变音技术，一旦应用于诈骗场景，将出现难以识破的人工智能人。例如彭阳AI换脸诈骗案，这是一起典型的新型AI换脸网络诈骗案件。犯罪分子利用AI换脸和拟声技术，借助被害人亲人的头像和声音与被害人交流，从而诱骗受害人。此种诈骗方式已然超出常人的想象。过往遭遇电话诈骗时，我们下意识会拨打视频电话以确认对方身份。然而，借助AI换脸技术与变音效果，如同神奇的魔法伪装，令我们难以分辨真伪，从而落入诈骗犯的陷阱。虽说警方提示可通过视频界面挥手观察对方反应，或要求对方遮挡部分面部器官来辨别真假。但随着技术的不断精进，这些识别方法或许终将失效。而且当下生成式人工智能的广泛普及，使得模拟效果愈发逼真。试想在这般情境下，我们若没有孙悟空的火眼金睛，实难识破诈骗犯的伪装。

科技进步虽带来诸多便利，却也为犯罪分子创造了犯罪的有利条件。据数据分析样本统计，在164534852个案件中，按照如下维度筛选有效样本：“全文：AI换脸诈骗”或“全文：人工智能诈骗罪”“文书类型：裁判文书”通过上述维度，共筛选案例数为2015-12-03至2024-03-14的案件为40个。诈骗罪的案件数最多，占比45.0%。由此可知，利用人工智能实施犯罪的案例其实并不多见，但随着技术的持续优化，繁杂多样的作案手法借助人工智能能够轻松实现，甚至可以驯化一个生成式人工智能充当犯罪专家，为其提供更多犯罪思路。在当前经济高速发展的大环境下，此类现象势必愈发频繁。倘若不尽快制定应对策略，未来的人工智能技术极有可能对社会发展产生负面冲击。

二、人工智能用于诈骗犯罪的特点及危害

人工智能应用于诈骗犯罪呈现出诸多独特特点。首先，其隐蔽性极高，借助先进的技术手段，诈骗行为能够在虚拟的网络环境中悄然进行，难以被察觉。其次，诈骗的精准度大幅提升，通过对大量数据的分析，犯罪分子能够精准锁定目标人群，实施有针对性的诈骗策略。再者，犯罪成本相对降低，无需大量人力物力，仅依靠技术手段就能达到诈骗目的。

近年来，根据数据统计，我们可以发现，利用AI进行犯罪多发于侵犯财产权类犯罪，其中诈骗罪最多发，也是因为社会发展，法治的进步。大型的抢劫等暴力案件已经很少发生，继而多发的是具有一定“技术含量”的诈骗类犯罪，尤其是电信网络诈骗呈现骗术多样、诈骗精准等新态势。根据中国司法大数据研究院2022年8月1日发布的《涉信息网络犯罪特点和趋势（2017.1-2021.12）司法大数据专题报告》，2017至2021年，涉信息网络犯罪案件数量呈逐年上升趋势。其中，网络诈骗类案件2018年同比上升71.69%，2019年同比上升25.15%，2020年同比上升40.36%，但2021年同比下降17.55%，是近5年来首次出现下降。在2017年至2021年期间，全国各级法院一审审结的网络诈骗类案件共计10.30万件。其中，贷款、冒充类和虚假招聘类案件数量较多，办理贷款类案件占比最大，约占16.71%。另据新京报2024年6月25日的报道，北京延庆区2024年电信网络诈骗案件数量较2023年大幅下降，同比降幅达42.5%。涉案金额也由2023年的3621万元降至1967万元，降幅达到45.7%。网络诈骗数量的提升无疑是为人工智能型犯罪提供一个良好的暖床，或者可以这样理解，人工智能与网络空间本就是相辅相成，都是能极大地为人类工作节约时间成本，那么同时两相结合，对于诈骗类犯罪的帮助也就不言而喻。

不过，需要注意的是，电信网络诈骗犯罪的发案情况可能会因地区、时间和具体统计范围的不同而有所差异。从犯罪实施的流程来看，电信网络诈骗包括精准信息获取、诈骗脚本设计、通讯联络诱导、资金支付转移四个关键环节。随着技术的发展和犯罪手段的变化，生成式人工智能应用到此类犯罪中也只是时间上的问题。为了应对电信网络诈骗犯罪，虽然各地各部门一直保持高压严打态势，也通过加强宣传教育、提高技术防范水平、完善协作机制等多种手段，遏制此类犯罪的发生，保护人民群众的财产安全。但是，科技的进步不可阻挡，只通过常规的办法无法解决所有问题，我们还要从法律制度入手，提前制定预防机制。

人工智能犯罪的形式多种多样，以下罗列了一些通常作案手法：1.网络钓鱼：犯罪分子利用生成式人工智能生成逼真的钓鱼邮件或信息，诱骗人们泄露敏感信息，如账号密码、信用卡信息等，以用于恶意目的。例如，使用人工智能改进发送给受害者的消息，使其更具欺骗性。2.深度伪造：通过人工智能技术合成高度逼真的图像、音频或视频，进行诈骗活动。比如制作深度伪造的语音，让受害人误以为是亲人打来的求救电话并要求交付赎金；或者利用深度伪造图片或视频进入地下市场，以每张图片10美元或每分钟500美元的价格出售服务等。3.绕过身份检查：一些犯罪分子在银行和加密货币交易等平台上，通过销售能绕过身份验证要求的应用程序，使用伪造或被盗的身份证件，将深度伪造的图像强加在真人脸上，欺骗手机相机验证程序，从而达到非法目的。4.“越狱”式服务：借助相关服务操纵人工智能生成违反使用规则的输出，例如为勒索软件编写代码，或生成可在诈骗电子邮件中使用的文本等。5.人肉搜索和监视：利用人工智能语言模型，分析公众在网上发布的各类信息，推断出个人的种族、位置、职业、年龄等敏感信息，从而进行人肉搜索和监视，暴露用户隐私。6.伪装虚拟角色诈骗：利用生成式人工智能高度模拟真人口吻的特点，把它包装成“虚拟角色”，使受害人更容易产生信赖，进而实施感情类或财产类诈骗。例如通过聊天机器人生成完整的诈骗套路话术，让受害人误以为自己“坠入爱河”，最终遭受诈骗。7.利用虚假链接诈骗：当前出现众多名称中包含“ChatGPT”等字样的微信公众号、小程序、网页、手机应用等“山寨版”链接，它们通过吸引网民点击链接或下载使用，误导网民填写个人信息甚至进行付费，存在损害用户财产利益的风险。8.以新技术为名的非法集资、传销等：例如以投资生成式人工智能类应用等为名目吸收资金，进行违法犯罪活动，可能涉嫌非法集资、非法传销和诈骗罪等。9.涉计算机类犯罪：“山寨版”应用生成的虚假链接，可能会导致恶意攻击电脑设备、侵入特定领域的计算机信息系统、非法获取相关数据等行为，涉嫌非法侵入计算机信息系统罪、破坏计算机信息系统数据罪等。

以上新型诈骗方式带来的危害不容小觑。高科技快捷高效的特点，在技术支持环节，不法分子利用深度学习AI技术提高“服务效率”和“服务质量”。以“快啊答题”打码平台为例，基于主流AI深度学习Caffe框架的分布式AI识别系统，能够实现大于1000次/秒的打码速度，且识别验证码的成功率超过83%，能够让犯罪人比以往犯罪行为更加迅速，更加不好预防。如果不加以提前干预。一方面，会给受害者造成巨大的经济损失，不仅个人财产受到侵害，还可能导致家庭破裂、社会信任度下降。另一方面，严重扰乱了社会经济秩序，破坏了市场的正常运行，影响经济的健康发展。同时，对社会的法治环境和道德风尚也产生了不良影响，削弱了公众对法律的信仰和对社会公正的期待。

三、将人工智能为犯罪方法作为诈骗罪法定加重情节的法理依据

从刑法的基本原则出发，罪责刑相适应原则要求刑罚的轻重应当与犯罪的性质、情节和社会危害性相适应。以人工智能作为诈骗手段因其智能化的特点，在实施诈骗的过程中更加隐蔽，不易识破，犯罪成本低加之网络时代的到来，其对公私财产安全的侵害远远大于一般诈骗，其智能化的本质决定了其应受到更严厉的刑罚制裁。

将人工智能作为犯罪方法作为诈骗罪法定加重情节，主要基于以下几个理由：

（一）社会危害性增大

人工智能使得诈骗手段更加复杂和隐蔽，增加了受害者识别和防范的难度，导致更多人容易上当受骗，造成的经济损失和社会影响更为严重。通过实证分析，我们可以看出越是经济发展好的地区，人工智能类型犯罪就越高发。虽然现在案件数量不多见，但是随着科技的进步，其造成的财产损失一定相比于普通诈骗更为严重。并且，生成式人工智能的发展，会为以往的诈骗方法带来升级的无限可能。我们熟知的AI换脸技术已经进入到了我们社会生活之中，加上变音以及对人体其他生物信息的获取，人工智能通过收集数据，分析数据，学习我们生活的习惯。相信在不久的将来，你手机视频的另一端很可能会出现一个你熟知的人，他熟悉你的生活方式，有着熟人的脸，更可怕的是通过强人工智能的自我学习能力，通过算法和你进行实时交流，在此种情况下你根本无法识别。

另外，以上这种方式虽然还没有大规模进入到实际案例中，但很大程度上还是因为技术的缺陷。而高速发展的科技变化让我们不得不去提前做出预防。模拟人像远程视频的诈骗方法只是人工智能技术发展的表面。试想一下，当生成式人工智能在大量收集你的信息后，是否也可以模仿你的存在去窃取你网络空间中的虚拟财产。这种技术的演变已经不再是像黑客破坏计算机信息系统这种暴力的手段，因为人工智能模仿的是你，届时你可能无法证明财产损失非你自己所为。

现在我们所处网络时代，因为网络大数据的传播，配合AI人工智能的精准打击，其能够大规模、快速地实施诈骗，波及范围更广，对社会秩序和公众信任的破坏程度更深。传统的网络诈骗通过基站传播诈骗短信，先不说信息已经很多人不再阅读，即使被骗也需要专人进行引导。典型的案例就有航班推迟诈骗电话，通过1.获取信息，骗取信任：诈骗分子通过非法渠道获取受害人订票信息，能准确说出受害人姓名、身份证号、登机时间、航班班次等信息。在受害人临出行前，通过电话或短信冒充航空公司客服人员，骗取信任。2.提出理赔，设下陷阱：初步取得受害人信任后，诈骗分子谎称飞机故障、恶劣天气等原因造成航班延误或取消，需要受害人改签或退票，并主动提出给予赔偿金，诱导受害人下载视频会议类 app 或指定的软件。3.屏幕共享，诱导转账：以“转账验证账户安全”“转账确保理赔通道畅通”等借口，通过屏幕共享等方式，套取受害人银行卡账户、密码、验证码等信息后转走资金，或用话术诱导受害人转账等完成诈骗。以上诈骗手法需要有专人进行跟踪诱导，虽然成功率不高但一次得手后可能会对一个家庭财产安全造成重大侵害。试想以后人工智能模拟出无数个智能体进行诈骗，其不仅能大大提高作案成功率，并且会对社会公众的财产造成极大的破坏，社会危险性大大增加。

相较于传统的诈骗手段，利用人工智能的诈骗行为具有更高的危害性和破坏性。给予加重处罚，符合罪刑相适应原则，保障法律的公平正义。明确将其作为法定加重情节，能够对潜在的犯罪分子形成强大的威慑力，使其在考虑使用人工智能实施诈骗时有所顾忌，从而减少此类犯罪的发生。随着科技的快速发展，法律需要及时跟上并回应新的犯罪形式。将人工智能作为犯罪方法加重处罚，是法律适应社会变化、保障社会安全的必要举措。此类犯罪容易削弱公众对新兴技术的信任，影响科技的正常发展和应用。加重处罚有助于恢复公众对技术和社会秩序的信心。

（二）犯罪成本降低

利用人工智能技术，犯罪分子无需投入大量人力和时间，就能高效地实施诈骗。比如Chat GPT的一个重要特征便是自主学习性，能够将用户的输入作为训练数据，在与用户的交互过程中捕捉文本间的内在逻辑与联系，并“还原”出用户的意图，通过分析用户的行为数据，实现对用户的精准画像。[]大大降低了犯罪成本。如果不从一开始加大犯罪成本，这可能导致更多人尝试此类犯罪，需要通过加重处罚来遏制这种趋势。

随着科技的迅猛发展，人工智能（AI）已深度融入我们的日常生活。然而，令人忧虑的是，AI 被不法分子用作实施诈骗犯罪的新型工具。从多个角度来看，利用 AI 实施诈骗罪的犯罪成本相对较低，这给社会秩序和公民财产安全带来了严峻挑战。AI 技术无疑为诈骗分子提供了高效便捷的手段。借助 AI 生成逼真的语音、图像和文字，诈骗分子能轻松伪造身份、构造虚假场景，使受害者难以辨别真假。例如，通过 AI 模仿他人声音与受害者通话，或生成极具迷惑性的视频以获取信任。这种高度仿真的欺诈手段，大幅降低了诈骗分子在前期筹备环节的时间与精力投入。

然而，也有观点认为，AI 技术本身是中立的，其被用于诈骗并非技术的过错，而是使用者的恶意行为。AI 技术在合法领域有着广泛的应用和巨大的价值，不能因被不法分子利用就全盘否定其积极作用。关键在于如何加强监管和规范使用，以防止其被滥用。不过，另一种声音指出，技术的发展是把双刃剑。虽然 AI 为诈骗提供了便利，但同时也促使执法部门和科技企业不断提升技术防范能力，推动了反诈骗技术的创新和发展。从长远来看，这可能形成一种“魔高一尺，道高一丈”的动态平衡，最终降低整体犯罪率。

利用 AI 实施诈骗还显著降低了犯罪的风险成本。由于 AI 技术使诈骗行为更具隐蔽性，难以被追踪和察觉。与传统诈骗易留下明显线索和证据不同，AI 生成的虚假信息往往难以溯源，加大了执法机关调查和打击的难度。即便案件被侦破，诈骗分子也可借助技术手段隐匿真实身份和位置，逃避法律制裁。

有人则认为AI 技术的普及和易得性大幅降低了诈骗的技术门槛和经济成本。如今，众多 AI 工具和服务在互联网上触手可及，甚至有免费开源软件可用。这使得即便无深厚技术背景的犯罪分子也能轻易掌控并运用 AI 实施诈骗，无需投入大量资金用于技术研发和培训。再者，利用 AI 实施诈骗的规模效应进一步摊薄了犯罪成本。精心设计的 AI 诈骗程序可同时对大量潜在受害者发起攻击，只要有一定比例的人上当，诈骗分子就能牟取丰厚非法收益。相比之下，单个受害者损失可能相对较小，导致部分人在受骗后选择不报案，降低了诈骗行为曝光的概率。

综上所述，利用 AI 实施诈骗罪的低成本现象必须引起高度警觉。为有效遏制此类新型犯罪的蔓延，一方面，法律应紧跟时代步伐，明确将利用 AI 实施诈骗等相关行为纳入严惩范畴，加大惩处力度；另一方面，科技企业和研发机构需强化技术防范，开发有效识别和抵御 AI 诈骗的工具与系统。同时，加强公众教育和宣传，提升大众对 AI 诈骗的认知和防范意识，让人们能识破并警惕各类诈骗手段，至关重要。唯有通过法律、技术和教育等多维度的综合举措，我们方能有力遏制这种新型犯罪的扩张，守护社会的安定祥和，保障公民的合法权益不受侵犯。

（三）犯罪得逞率提高

人工智能的精准性和迷惑性使得诈骗得逞的概率大幅增加，加重处罚是对这种高得逞率带来严重后果的合理回应。从刑法的目的来看，预防犯罪是刑法的重要目标。将人工智能为犯罪方法作为法定加重情节，能够对潜在的犯罪分子形成强大的威慑力，有效预防此类犯罪的发生。此外，从社会公平正义的角度考量，对利用先进技术实施犯罪的行为加重处罚，符合公众对于公平正义的追求，有助于维护社会的稳定和秩序。在科技浪潮汹涌澎湃的当下，人工智能宛如一把双刃剑，在为人类开启无限可能的同时，也被不法之徒悄然利用，成为诈骗领域的“新型武器”。当这一前沿技术沦为犯罪的工具，社会的安宁与公平正面临着前所未有的严峻挑战。将利用 AI 作为诈骗罪的方法列为法定加重情节，已成为当务之急，对于提升犯罪得惩率、捍卫社会正义具有深远意义。

首先来看“2023 年福州市某科技公司法人代表郭先生被 AI 诈骗 430 万案件”。郭先生的好友通过微信视频联系他，称自己在外地投标需要 430 万保证金，想借郭先生公司的账户走账。对方随即将钱打到郭先生账户上并截图让其确认，郭先生基于对好友的信任，且未等来银行通知信息就先把钱转了过去。之后他拨打好友电话才发现被骗，原来骗子通过智能 AI 换脸和拟声技术佯装其好友实施了诈骗。幸运的是，接到报警后，福州、包头两地警银迅速启动止付机制，成功止付拦截 336.84 万元，但仍有 93.16 万元被转移，目前正在全力追缴中。此案例中，犯罪分子借助 AI 技术的伪装，使得诈骗行为极具迷惑性，造成了重大的经济损失。

接着是“2023 年 10 月，一诈骗团伙被提起公诉”的案件。该团伙假冒演员“靳东”获取受害人信任，再以投资、公益、恋爱等各种理由索要钱款，共诈骗多名被害人共计人民币 30 余万元。2024 年 2 月 3 日，上海市静安区人民法院作出一审判决，判处涉案 8 名被告有期徒刑 3 年到拘役 4 个月不等的刑罚。这类假冒名人诈骗，主要通过发布和使用靠 AI 换脸、换声等手段处理过的名人照片、视频和变声音频，让粉丝误以为是名人本人，使用统一的话术进行诱导，打感情牌，最后再以各种理由索要钱款，其诈骗目标主要是中老年女性。AI 技术在此案中的运用，精准抓住了受害人的心理弱点，严重侵犯了公民的财产权益。

再看“近期香港发生的一起规模巨大的 AI‘深度伪造’诈骗案”。一家跨国公司香港分公司职员，收到英国总部要求进行视频会议的指令，视频中对方都显示了与以往相同的容貌，职员根据会议指令前后转账了 15 次，共计 2 亿港元，而后经核实才知道被骗。诈骗者通过该公司的 youtube 视频和从其他公开渠道收集公司高管的音视频资料，再利用 deepfake（深度伪造）进行视频生成，形成多人视频会议的画面结果，其中的每一个人物和声音都是通过精心伪造的“AI 换脸、换声”技术制作的。这起案件充分暴露了 AI 诈骗的巨大危害和潜在风险，其造成的损失令人触目惊心。

将利用 AI 作为诈骗罪的法定加重情节，执法机关在处理此类案件时将能够更加明确打击重点，加大打击力度。这意味着会提高调查和侦破此类案件的优先级，促使更多的人力、物力和技术资源投入到案件的侦破工作中。例如，会调配更多精通 AI 技术和数据分析的专业人员参与，运用更先进的技术手段追踪犯罪线索、破解加密数据等，从而显著增加破案的可能性。将利用 AI 作为诈骗罪的法定加重情节，还能够为司法审判提供清晰明确且具有针对性的法律依据。在量刑时，法官能够依据这一加重情节，对犯罪分子判处更严厉的刑罚。这不仅体现了法律对新型犯罪手段的及时且有效地回应，也充分彰显了法律的公正和严肃，进一步提高了法律的权威性和公信力。

综上所述，将人工智能 AI 作为诈骗罪的方法列为法定加重情节，能够从多个方面加大对犯罪分子的打击力度，显著提高犯罪的惩率，有力预防犯罪的发生，为社会的和谐稳定、人民的财产安全和法律的尊严提供更强大、更可靠的保障。

四、将人工智能为犯罪方法作为诈骗罪法定加重情节的实践困境

在司法实践中，人工智能型诈骗案件认定存在着诸多难题。首先，对于人工智能在诈骗犯罪中的认定标准尚不明确，如何界定是否利用了人工智能以及利用的程度等问题有待解决。其次，证据的收集和固定面临巨大挑战，由于技术的复杂性和隐蔽性，获取有效证据的难度较大。再者，法律的滞后性导致现有法律规定难以完全适应新型犯罪的特点，需要不断完善和更新。

将人工智能为犯罪方法作为诈骗罪法定加重情节可能面临一些实践困境，包括以下方面：

1.技术甄别困难：人工智能生成的内容，如“AI换脸”“AI拟声”等，可能极其逼真，难以与真实的信息区分开来，作为生成式AI的典型之作，ChatGPT拥有强大的语言生成能力、世界知识能力和上下文学习能力[]，如果被用于犯罪，这将给司法机关甄别犯罪行为带来了挑战，导致收集电子证据困难，增加案件侦办难度。

2.法律责任溯源复杂：鉴别智能诈骗的视频、语音真伪存在技术难度，追踪原始伪造行为人需要耗费大量人力、物力。并且，在确定侵权责任时可能需要漫长的诉讼过程。此外，智能诈骗常以跨区域或跨境犯罪为主，网络资金层层转移，导致被侵权人的损失难以完全追回。

3.犯罪主体认定问题：虽然人工智能本身不能作为犯罪主体承担刑事责任，但在涉及人工智能的诈骗案件中，如何准确界定犯罪行为的实施者以及其与人工智能技术的关系，存在一定困难。AI技术即将迎来更多“类人化”的产物，人类社会也将发生深层次多维度的巨大变革。[]随着Chat GPT等AI技术的普及，它可能代表认知的最低水准，[]也必然颠覆人类对现有技术和格局的认识，甚至某一天人工智能也可以作为犯罪主体。

4.法律滞后性：人工智能技术发展迅速，而法律的制定和完善需要一定时间。从法人犯罪中也可以看出，随着强人工智能的诞生和进步，当其足以拟制其法人人格的水平时，社会的接受度会有所提高，其滞后性不会低于法律的接受程度。[]尤其像现有的法律规定可能无法完全涵盖所有利用人工智能实施诈骗的新情况、新手段，导致法律在应对某些具体犯罪行为时存在滞后性。

5.社会认知和防范难度：人工智能诈骗手段不断翻新，普通民众可能难以跟上技术发展的步伐，对新的诈骗形式缺乏足够的认知和防范能力，容易成为诈骗的目标。这也使得在社会层面上预防和打击此类犯罪面临较大困难。

五、应对人工智能诈骗犯罪的改进建议

有学者所言“法律不能独善其身”，刑法作为万法之保障法，对于他法的漏洞与不足具有补充完善作用，理应对于社会的变化具有更高的敏感度。[]所以为了应对上述困境，应明确人工智能在诈骗犯罪中的认定标准，制定详细、可操作的规范。加强技术手段在证据收集方面的应用，提高侦查能力。同时，加快法律的修订和完善工作，及时跟上科技发展的步伐，确保法律能够有效地打击人工智能诈骗犯罪。

完善将人工智能为犯罪方法作为诈骗罪法定加重情节的可行性建议

（一）加重情节入罪制度分析

1.为识别人工智能应用到诈骗过程中建立专业鉴定机制

设立专门的鉴定机构，汇聚技术、法律和执法等多领域专业人员，以准确鉴别涉及人工智能的犯罪行为。例如，在浙江绍兴上虞警方破获的利用人工智能技术制作虚假视频编造网络谣言非法牟利案中，警方通过专业鉴定，确定了犯罪嫌疑人利用AI合成技术制作虚假火灾视频的事实。上虞区分局民警核查发现，某网民发布的上虞工业园区火灾视频中的建筑、森林大火场景并非该工业园真实场景，疑似源自其他视频。经分析，民警判断该视频是利用人工智能合成技术，将网络上多段不同视频剪辑拼接而成。最终锁定某网络科技公司员工有较大作案嫌疑，并将其抓获。如何将人工智能手段准确识别在诈骗过程中使用，是对其加重处罚的基础。如果不能准确认定在诈骗犯罪中使用了人工智能手段，那么该种法律措施就失去了作用。所以我们要想让人工智能型加重诈骗犯入罪就要对人工智能的类别及其适用场景以及技术上的细节问题进行深入的研究。

2.明确人工智能方法在诈骗罪中起到的作用

虽然人工智能已经家喻户晓，但是其智能化程度的大小也与对诈骗罪起到的作用大小有着密切的联系，我们加重情节的适用只能是那种高度智能化的手段，如果适用于所有人工智能，将可能造成打击面过于广泛，而且不能符合罪责刑相适应原则的要求。通过立法或修订法律，清晰界定不同主体在人工智能犯罪中的责任，以此区别人工智能作用的大小。如在最高检发布的典型案例中，李某成立声通公司帮助诈骗团伙做网络贷款推广，陈某甲、张某明知其行为仍提供帮助，鄢某某、陈某乙制作维护虚假贷款app，偶某某提供银行卡供取现转移赃款。这些人都被依法追究了相应的法律责任。2018年7月，李某成立声通公司，按照诈骗团伙要求编写自动应答话术并录入应答语音，利用AI语音机器人自动拨打电话筛选对象，推送虚假贷款app实施诈骗，共有1437名被害人被骗取3586万余元。陈某甲、张某明知李某帮助诈骗团伙仍按其安排行事，偶某某明知李某行为仍提供银行卡，鄢某某、陈某乙制作维护虚假贷款app。最终，李某构成诈骗罪、侵犯公民个人信息罪，数罪并罚决定执行有期徒刑十七年，并处罚金五百六十万元；鄢某某构成诈骗罪、侵犯公民个人信息罪，数罪并罚决定执行有期徒刑九年，并处罚金六十五万元；偶某某构成掩饰、隐瞒犯罪所得罪，判处有期徒刑六年六个月，并处罚金一百万元；张某、陈某甲、陈某乙构成诈骗罪，判处有期徒刑六年至三年不等，并处罚金。产品提供者与使用者“通谋”，由其研发能够生成“钓鱼”邮件、诈骗“脚本”的Chat GPT类生成式人工智能产品，再提供给使用者，由使用者利用该产品实施诈骗行为。在这种情况下，产品提供者和使用者成立共同犯罪，提供Chat GPT类生成式人工智能产品的行为属于诈骗罪正犯的帮助行为；当然，如果提供Chat GPT类生成式人工智能产品的行为对诈骗结果的发生起重要作用，按照实质客观说中的“重要作用说”，[]产品提供者也可能属于共同犯罪中的正犯范畴。有限度追究Chat GPT类生成式人工智能产品提供者的刑事责任，符合我国网络领域积极主义刑法观的趋势。“鉴于数字经济的战略性地位，以及网络犯罪在数字技术加持下的异化，刑法的扩张具有必要性。”

3.推动法律更新对新型智能型高科技手段进行细化

及时评估和修订法律，以适应新的诈骗手段。例如，随着“AI换脸”“AI语音模拟”等诈骗手段的出现，法律需适时做出相应规定，明确其法律性质和惩处标准。技术识别与修法论证明确人工智能在诈骗犯罪中的技术识别标准至关重要。由于人工智能生成的内容，如“AI换脸”“AI拟声”等，具有极高的逼真度，使得司法机关在甄别犯罪行为时面临巨大挑战。因此，需要制定详细且科学的技术标准和规范，以准确判断是否利用了人工智能以及其利用的程度。例如，可从图像、声音、语言模式等多个维度进行分析。在图像方面，关注面部表情的自然度、皮肤纹理的真实性等细节；在声音方面，考量语调、语速、音质等特征与被冒充者的一致性；在语言模式方面，分析语言逻辑、用词习惯是否符合常人特征。此外，还需对数据来源进行追溯和分析，以确定是否通过人工智能软件生成。

修订相关法律，将以人工智能作为犯罪方法明确纳入诈骗罪的法定加重情节。这一举措具有重要的现实意义。随着人工智能技术的迅速发展，其在诈骗犯罪中的应用日益增多，且危害程度远超传统诈骗手段。将其纳入法定加重情节，能够体现法律对新型犯罪形式的及时回应，增强法律的威慑力。例如，可以在刑法中明确规定，利用人工智能实施诈骗，且达到一定情节标准的，应视为加重情节，加重处罚。加强技术手段在证据收集方面的应用。先进的技术工具对于打击人工智能诈骗犯罪至关重要。利用人工智能监测系统、数据分析软件等，能够提高侦查效率，及时发现和收集与人工智能诈骗相关的证据。例如，通过人工智能监测系统，可以实时监测网络活动，发现异常的数据流和行为模式，从而及时预警可能的诈骗行为。同时，数据分析软件能够对大量的数据进行快速分析，挖掘出隐藏在其中的关联信息，为案件侦破提供有力支持。

（二）明确法律责任与加重适用刑罚标准

1. 明确法律责任

通过立法或修订法律，清晰界定不同主体在人工智能犯罪中的责任是确保公正司法的关键。在某案例中，犯罪分子甲利用AI技术制作虚假投资平台，进行诈骗活动。技术提供商乙明知甲的用途，仍为其提供技术支持。投资者丙因误信该平台，遭受了重大经济损失。在这种情况下，犯罪分子甲应承担主要刑事责任，技术提供商乙因其明知故犯的行为，也应承担相应的连带责任。

对于产品提供者与使用者“通谋”，利用Chat GPT类生成式人工智能产品实施诈骗行为的，应明确其共同犯罪的责任。如在最高检发布的典型案例中，李某成立声通公司帮助诈骗团伙做网络贷款推广，陈某甲、张某明知其行为仍提供帮助，鄢某某、陈某乙制作维护虚假贷款app，偶某某提供银行卡供取现转移赃款。这些人都被依法追究了相应的法律责任。2018年7月，李某成立声通公司，按照诈骗团伙要求编写自动应答话术并录入应答语音，利用AI语音机器人自动拨打电话筛选对象，推送虚假贷款app实施诈骗，共有1437名被害人被骗取3586万余元。陈某甲、张某明知李某帮助诈骗团伙仍按其安排行事，偶某某明知李某行为仍提供银行卡，鄢某某、陈某乙制作维护虚假贷款app。最终，李某构成诈骗罪、侵犯公民个人信息罪，数罪并罚决定执行有期徒刑十七年，并处罚金五百六十万元；鄢某某构成诈骗罪、侵犯公民个人信息罪，数罪并罚决定执行有期徒刑九年，并处罚金六十五万元；偶某某构成掩饰、隐瞒犯罪所得罪，判处有期徒刑六年六个月，并处罚金一百万元；张某、陈某甲、陈某乙构成诈骗罪，判处有期徒刑六年至三年不等，并处罚金。此类案例表明，对于参与人工智能诈骗犯罪的各个环节的主体，都应依法追究其责任，以实现法律的公平与正义。

2. 加重适用刑罚标准

对于利用人工智能实施诈骗的犯罪行为，应加重适用刑罚。鉴于人工智能诈骗的危害性和隐蔽性，以及其对社会秩序和公众信任的严重破坏，适当提高刑期和罚金数额是必要的。例如，对于造成重大经济损失或社会影响恶劣的人工智能诈骗案件，可将刑期提高至十年以上有期徒刑，并加大罚金力度，使其足以起到威慑作用。

建立健全刑罚裁量机制，确保刑罚的适用公正、合理。在量刑时，充分考虑人工智能诈骗的特殊性，如犯罪的隐蔽性、危害性、得逞率等因素。同时，结合犯罪分子的主观恶性、认罪态度等情节，综合判断其罪行的严重程度，对犯罪分子判处与其罪行相适应的刑罚。此外，还应加强对刑罚执行的监督，确保刑罚的有效执行，达到预防犯罪的目的。

（三）AI诈骗的预防与宣传

1. 行政刑法衔接

加强行政机关与司法机关的协作，建立健全信息共享机制是预防人工智能诈骗犯罪的重要环节。行政机关在日常监管中，如发现涉及人工智能的可疑活动或线索，应及时移送司法机关处理；司法机关在办理案件中，若发现存在行政监管漏洞，应及时向行政机关提出建议，共同完善监管措施，防范人工智能诈骗犯罪的发生。例如，某地区的市场监管部门在对一家科技公司进行检查时，发现其涉嫌利用人工智能技术进行虚假宣传和欺诈消费者的行为。市场监管部门立即将相关线索移送至公安机关，公安机关迅速介入调查，最终成功破获了这起人工智能诈骗案件。

完善行政法律法规，对涉及人工智能的相关行为进行规范。明确规定企业和个人在开发、使用人工智能技术时应遵守的规则和义务，对于违反行政法规的行为，及时予以处罚，防止其演变为犯罪行为。例如，制定相关法规，要求企业在使用人工智能技术进行营销活动时，必须明确告知消费者，不得利用人工智能技术进行误导或欺骗。

2. 民刑衔接

明确民事侵权与刑事犯罪的界限，对于人工智能诈骗行为，既要追究刑事责任，也要考虑被害人的民事赔偿问题。在司法实践中，应妥善处理好民事赔偿与刑事处罚的关系，确保被害人的合法权益得到有效保护。例如，在某起人工智能诈骗案件中，被害人除了通过刑事诉讼追究犯罪分子的刑事责任外，还可以提起附带民事诉讼，要求犯罪分子赔偿经济损失，包括被骗资金的返还、精神损害赔偿等。

建立民事赔偿与刑事处罚的衔接机制，确保被害人的合法权益得到及时实现。在刑事诉讼过程中，司法机关应积极引导被害人提起附带民事诉讼，并协调相关部门，加快民事赔偿的执行进度。例如，设立专门的机构或平台，负责协调民事赔偿的执行工作，提高赔偿的效率和成功率。

3. 宣传预防

加强对公众的宣传教育，提高公众对人工智能诈骗的识别能力和防范意识是预防人工智能诈骗犯罪的重要基础。通过多种途径，如媒体宣传、社区讲座、网络教育等，向公众普及人工智能诈骗的常见手段、防范方法等知识。例如，制作专题节目，介绍人工智能诈骗的最新案例和防范技巧，在社区举办讲座，邀请专家为居民讲解如何识别和防范人工智能诈骗。推动企业和行业组织制定自律规范，加强行业自律。鼓励企业加强对人工智能技术的研发和应用管理，防止其被用于诈骗犯罪。对违反自律规定的企业，应给予相应的处罚，以起到警示作用。例如，某行业组织制定了严格的自律规范，要求会员企业在使用人工智能技术时，必须遵守道德和法律准则，如有违反，将受到行业内的通报批评和处罚。

建立举报奖励机制，鼓励公众积极举报人工智能诈骗行为。对举报有功者给予奖励，激发公众参与打击人工智能诈骗犯罪的积极性。例如，设立专门的举报热线和奖励基金，对提供有价值线索的举报人给予物质奖励和精神表彰，同时保护举报人的隐私和安全。通过多种途径开展宣传教育，提升公众对人工智能诈骗的识别能力。如在一些案例中，犯罪分子利用AI技术合成虚假视频或声音，冒充亲友实施诈骗。公众若具备较强的防范意识，不轻易相信此类信息，就能有效避免受骗。通过以上综合举措，可以更好地应对人工智能诈骗带来的挑战，维护社会的安全与稳定。同时，要不断关注人工智能技术的发展动态，及时调整和完善相关措施。

六、结语

伴随科技的不断创新发展，将人工智能为犯罪方法列为诈骗罪的法定加重情节已成必然。对其可行性的深度剖析表明，此举措在理论和实践层面均意义重大。但实践过程中难免遭遇诸多阻碍，诸如技术甄别难题、法律责任溯源复杂、法律条文适用困境等。然而，一系列针对性建议的提出，包括建立专业鉴定机构、明确法律责任归属、推动法律及时更新、强化公众教育和宣传、优化侦查手段和技术装备、设立奖励机制以及建立行业自律规范等，为破除困境提供了明晰的方向。通过对AI数据分析平台的深入探索，清晰了解了人工智能犯罪的隐蔽性、复杂性和巨大危害性，也得出了采取有效应对策略的急切需求的结论。我们必须紧跟时代进步的步伐，不断健全法律体系，提升执法水平，增强公众的防范意识，汇聚全社会之力共同打击人工智能诈骗犯罪。坚信在各方齐心协力之下，能够在推动科技创新的同时，有效遏制人工智能被用于犯罪的不良趋势，守护社会的公平正义与安定和谐，为大众构建一个更安全、更可信的社会环境。

参考文献：

[1]袁旭东.生成式人工智能视域下网络犯罪的治理困境与突破——以ChatGPT为例[J].警察技术,2024,(04).

[2]周益,任士英.AI诈骗治理：困境与对策[J].人民论坛,2024,(13).

[3]杨胜钦.从ChatGPT看AI对电信网络诈骗犯罪治理的影响[J].犯罪与改造研究,2024,(05).

[4]刘宪权.人工智能时代机器人行为道德伦理与刑法规制[J].比较法研究,2018,(04).

[5]李怀胜.犯罪认定中时空标准的法治逻辑及其控制——以电信网络诈骗犯罪的新型入罪标准为视角[J].法学,2024,(07).

[6]曾磊,敬鑫.惩治跨境电信网络诈骗犯罪警务合作路径完善——以中国—东盟合作机制为视角[J].中国人民警察大学学报,2024,40(08).

[7]叶竹盛,林曼婷.生成式人工智能犯罪归责的开发者中心主义[J/OL].深圳社会科学,2024,20(08).

[8]刘宪权.生成式人工智能的发展与刑事责任能力的生成[J].法学论坛,2024,39(02).

[9]董文凯,崔仕绣,于龙.刑事责任年龄制度的理论溯源——从“自由意志”到“法律拟制”[J].牡丹江大学学报,2022,31(04).

[10]张明楷.责任论的基本问题[J].比较法研究,2018,(03).

[11]龚珊珊,陈洪兵.质疑加重情节的作用变更——兼与张明楷教授商榷[J].安徽大学学报(哲社版),2024,48(02).

[12]张明楷.加重情节的作用变更[J].清华法学,2021,15(01).

监制：张永江

作者：张腾飞，湘潭大学法学院2023级法律（法学）硕士研究生

编辑：张腾飞

责编：彭晓笛

审核：张永江

扫码关注

微信公众号｜湖南省刑事法治研究会

新浪微博｜@湖南省刑事法治研究会

今日头条｜湖南省刑事法治研究会

http://mp.weixin.qq.com/s?__biz=MzIzODE3MDYyMg==&mid=2650408967&idx=1&sn=ea910ff5344ed088bcd463de7a7c87d8

湖南省刑事法治研究会

湖南省刑事法治研究会旨在推动湖南省的刑事法治研究与建设，紧密联合湖南省的学术界与实务界，通过论坛、普法活动和内部资料等相互探讨刑法的理论与实践结合。