如何防范AI换脸诈骗?“天镜”大模型2.0来支招

时事   2024-11-30 22:50   广东  


如何防范新型AI骗局?

如何让金融大模型能力

泛化至多个应用场景?

如何解决大模型训练成本高的难题?


11月28日



“打造新生态、合作赢未来”为主题,马上消费承办的“2024数字产业生态伙伴大会”开幕。


大会期间多位专家学者、业内科技代表参会,围绕中国数字产业发展新格局、科技创新引领产业高质量发展等话题,探寻数字产业未来发展的“桥”与“路”。


在大会前一天,《推动数字金融高质量发展行动方案》(以下简称《行动方案》)要求到2027年底,基本建成与数字经济发展高度适应的金融体系。


作为金融大模型技术国际标准制定者、中国首个金融大模型“天镜”开发者,马上消费在大会上和千余位嘉宾分享了大模型的实践经验与前沿思考,并正式推出“天镜”2.0。相比之前的版本,“天镜”2.0 在模型技术创新、标准制定、科研转化成果、具体应用等核心领域取得了突破性进展。


用AI来对抗AI诈骗


你可曾听说过新型AI骗局?随着人工智能的飞速发展,生活中开始出现AI“换脸““拟声”诈骗案。诈骗分子通过AI技术,将面部替换为受害者熟悉之人的面容,且声音也能被模拟得极为相似,然后通过视频通话或其他方式向受害者借钱。受害者往往会因为看到熟悉的面容放下防备,上当受骗。


利用AI技术对抗AI新型诈骗,

是当前金融行业面临的重要课题。


大会期间,马上消费常务副总经理蒋宁作题为“金融大模型发展与思考”的主旨演讲,并推出了全面迭代升级的天镜大模型 2.0 版本。根据蒋宁的示例,当大模型识别到视频对方人物面部表情僵硬,没有自然的微表情变化,头发过于顺滑且缺乏色彩及自然光泽,大模型会自动做出预警,提醒受害者。


马上消费常务副总经理蒋宁在重庆首届数字产业生态伙伴大会上作主题演讲。


据悉,天镜大模型首发版本已实现智能营销交互、数据决策支持、防伪安全等八大应用场景。经过 460 天的发展,马上消费在此基础上升级迭代,正式推出“天镜”2.0。


《行动方案》提出,要求提升数字化经营管理能力。支持金融机构提高数据驱动的业务决策和资源配置能力。利用流程机器人、数字化客户营销触达工具、集约化作业模式等数字化手段,赋能高强度操作性岗位提质增效。运用数字技术优化风险管理系统,实现风险智能预警和动态捕捉,推动风控从“人防”向“技防”“智控”转变。


蒋宁提到,大模型生成式 AI 在辅助内容生产的同时也给金融安全带来了巨大挑战,假单据、假人脸、假数据等现象频出。“天镜” 2.0 针对这些安全隐患专门研发了对抗学习技术,将多模态的技术进行深度融合,把声音、文字、视频等多维度信息整合,构建全新的对抗学习防伪新体系,全方位、多层次地有效提升金融安全防护能力,为金融行业的稳定与安全保驾护航。


通过主动引入对手或攻击者,

让模型在面临挑战时

能够更好地适应和改进,

这一过程又被称为“对抗性学习”。


然而,目前公开的攻击样本非常少量。针对此问题,马上消费金融将发布防伪公开信息系统。蒋宁表示,希望此系统能在AI对抗领域发挥更大作用,后续随着多模态技术进一步融合,将构建一个新的防卫体系,保卫消费者财产安全。


提升大模型在线学习能力降低训练成本


“ChatGPT5.0迟迟没有发布,是因为需要更海量的数据从头开始训练。”蒋宁指出,如何用更少量的数据,轻量化地训练模型成为行业的一大思考。


蒋宁提到

在模型技术创新层面,“天镜”2.0 针对大模型的 “黑箱” 特性,积极探索逻辑能力与数据知识分离处理的技术,实现了重大科研创新,大幅降低模型更新数据需求,仅需千分之一数据即可完成模型更新。这一成果的实现取决于模型“在线学习”能力的提升,使其能够与时俱进,灵活适应动态环境变化,降低更新成本。


在标准制定层面,升级后的“天镜”大模型在去年达成千亿规模交易的基础上,深入探索合规可信安全体系建设,将马上消费的人工智能成果转化为行业标准实践,积极引领全球金融大模型标准制定工作,推动行业规范化、体系化发展。


此外,马上消费还在探索让大模型在金融服务中更有温度。蒋宁表示,马上消费通过与多所高校合作,将心理学理论与大模型结合,使大模型能感知人的情绪,并据此调整交互方式。蒋宁在演讲中提到,目前这一技术已经在马上消费养老机器人项目中得到应用,展现数字化服务中的人文关怀。



2023年10月底召开的中央金融工作会议明确提出“做好科技金融、绿色金融、普惠金融、养老金融、数字金融五篇大文章”。


作为一家技术驱动的数字金融机构,马上消费于2017年成立人工智能研究院,推出包括全国首个零售金融大模型“天镜”在内的多款AI产品。


近日,马上消费“金融大模型智能服务平台”项目在我国金融业科技创新最新成果、最高成就的奖项——金融科技发展奖中荣获二等奖,是国内持牌消费金融公司在本届“金发奖”评选中收获的唯一奖项,该项目也是本次唯一获奖的零售金融大模型平台。


截至今年10月,马上消费累计申请发明专利超2100件,位居全国金融机构Top10,位列全球第7,主导或参编包括IEEE在内的国内外标准超百项,获得金融科技权威认证40项,先后获得国家高新技术企业等12项国家级荣誉














来源:《MIT麻省理工科技评论》


共商数字产业发展之道


当前,新一轮科技革命和产业变革正呈现出强劲的发展态势,以人工智能为代表的新技术正处于蓬勃发展阶段。在此背景下,如何引导数字产业向深化应用、规范发展、普惠共享的新阶段迈进,成为此次大会的话题焦点。



01

工业和信息化部原副部长苏波在演讲中表示,我国大力发展数字经济,需要加快推动数字技术创新突破、深入推进产业数字化转型、优化数据要素创新性配置,以及建立健全数据基础制度。苏波强调,发展新质生产力和建设现代化产业体系,决不能把传统产业当成低端产业。要用数智技术赋能传统产业,推动传统产业向高端化智能化绿色化转型升级,形成先进生产力。


02

中国人民银行原副行长李东荣在演讲中表示,金融是国之重器,而产业数字金融则是国之利器,产业数字金融可以通过科技赋能实现新兴产业的孵化和培育,同时通过数字赋能助力传统产业转型升级。对于发展数字经济,李东荣建议先行先试,因地制宜,选择条件成熟的地区开展改革试点,与科技金融并行不悖,实现科技产业金融的良性循环,同时把握好科技赋能与风险防控的关系。



根据《行动方案》要求,要建设数字金融服务生态,鼓励金融机构合理布局数字生态场景体系,构建数字生态运营体系。


在大会的生态合作发布环节



马上消费联合重庆大学、南开大学等多所高校发起共建“重庆市金融数字智能技术创新中心”的行动倡议。该技术创新中心是马上消费牵头建设的重庆首个金融数字智能技术创新中心,大力布局人工智能领域,围绕重庆市“33618”现代制造业集群体系和“416”科技创新战略布局持续聚焦聚力,为全市产业发展提供源头技术供给,为高新技术企业、科技型企业的孵化培育和发展壮大提供创新服务,为支撑全市实现高质量发展发挥战略引领作用。


此外,IEEE数字金融与经济标准委员会主席林道庄联合马上消费共同为《金融大语言模型技术要求标准》、《基于机器学习模型的三维数字人建模和驱动技术要求标准》两大国际标准立项举办授牌仪式。


为提升客户服务效率,马上消费、中国移动、中国电信、中国联合网络通信等公司联合发布了马上消费95090智能客服系统焕新升级。“95”热线作为由工信部直接管理审批的特殊号段标准非常严格,本次智能客服系统焕新升级,不仅简化了马上消费用户拨打服务热线的过程,为线上服务的高效响应加分,也代表着马上消费服务流程更规范,品牌公信力更强。


文/夏铭

(推广)

广州日报
追求最出色的新闻 塑造最具公信力媒体
 最新文章