金融街论坛 | 吕仲涛：筑牢数字金融创新发展新基建——工商银行人工智能大模型体系建设和应用实践

以下为演讲实录：

筑牢数字金融创新发展新基建

——工商银行人工智能大模型体系建设和应用实践

尊敬的各位领导、各位来宾、各位专家学者：

大家好！非常荣幸在“2024金融街论坛年会--AI+金融赋能数字金融新篇章”平行论坛与业界和学界的各位同仁和专家共同交流探讨。

在今天上午，我们在“人工智能+金融创新”平行论坛宣介了“工银智涌”大模型应用成果。我们立足于全栈国产化技术，建成了助力20+业务领域、150+业务场景端到端应用的企业级千亿金融大模型技术体系。在此，想借此机会，进一步向各位专家、学者分享工商银行AI大模型体系建设和应用实践。

我今天想分享四部分的内容，分别是AI政策背景及技术趋势、工商银行AI大模型技术建设进展、工商银行AI大模型业务赋能情况及金融行业AI大模型应用思考与建议。

习近平总书记指出：“发展新质生产力是推动高质量发展的内在要求和重要着力点，必须继续做好创新这篇大文章，推动新质生产力加快发展”。

党和国家近年来也密集出台多项行动方案与激励政策，营造鼓励包容、审慎监管环境，加快布局发展人工智能产业。国家层面加强顶层设计，要求各行业抓住人工智能大模型发展机遇，加快形成新质生产力。

2023年中央金融工作会议强调要“做好数字金融大文章”，金融业要全面适应数字经济时代的经济社会发展变化，深化数字技术的金融应用，以大模型为重要抓手推进产业创新和解锁新质生产力。

2024年3月，政府工作报告提出数字经济创新发展，加快发展新质生产力，开展“人工智能+”行动，标志着人工智能已经上升为国家战略。

人工智能在1956年达特茅斯会议上被首次提出后，历经三次发展浪潮，其中人工智能第一、二次浪潮是“小数据、单任务”范式的分析式AI，分别是“专家系统+机器学习”浪潮以及“深度学习”浪潮，这两个阶段，人工智能技术均不能创造新内容。大模型催生了人工智能第三次浪潮，开始向“大数据、多任务”范式的生成式AI迈进，具备更强的通用性、理解和生成能力，让通用人工智能发展迎来起点。去年以来，以生成式人工智能为代表的新质生产力快速发展，为国家、社会、经济发展开辟新赛道，激发新动能。数字产业化和产业数字化交织促进的人工智能时代已经到来。

工商银行体系性地推动大模型企业级技术能力建设，按照“三大支柱、1+X范式、两全平台、全域生态”的建设思路，建成集算力、算法、数据、工具、能力、安全、应用、生态于一体的企业级千亿金融大模型技术体系,内外协同赋能，打造“人工智能+金融”新生态。

工商银行建成千卡规模国产化AI算力云，利用并发加载等技术实现大模型分钟级弹性启动，具备TB级数据一个月内完成千亿大模型全参稳定训练的能力。

另外，工商银行探索出了一条与日新月异的主流大模型生态快速兼容适配的技术路线。工商银行在国产化算力基础上，全面兼容10+业界领先的大模型技术生态，有效应对大模型技术的快速变化。

工商银行本着共享复用、资源集约、成本效益最优的准则，采用“商用+开源”并行路线，利用海量金融数据和金融大模型预训练、微调等技术，建成多层次、多模态、多模型协同融合的千亿级金融大模型算法矩阵，实现不同参数、不同能力模型的择优调控，满足金融业务场景复杂多样化的需求，在银行从业资格认证（中级）、经济师等10+权威金融认证模拟考试中，考试成绩超过业界头部领先的基础大模型。

拥有了领先的模型训练技术手段和模型算法矩阵之后，保障大模型的训练质量成为重中之重，其关键就在于数据。大模型时代对于数据质量、新鲜度、跨专业领域的综合运用以及严谨性等方面都有高要求，需要打破各专业知识运营各自为政的现状，因此工商银行打造了一套适配大模型的金融知识工程，建成“世界-行业-领域-企业-任务”五层知识架构，构建出质量优、覆盖广的万亿Tokens金融数据集。利用数据智能处理技术，创新打造“采集、清洗、管理、应用”知识工程全生命周期智能化流水线，革新金融知识高效运营模式，整体数据生产效率较传统模式提升约10倍，为适配大模型时代的数据要素市场建设贡献工行智慧。

防范风险是金融工作的底线，大模型安全是模型可靠应用的基石。工商银行逐层梳理金融服务全生命周期的安全薄弱点，通过基模合规可靠、数据内容可信、模型价值对齐微调、服务拦截过滤、问答结果溯源等安全加固手段，确保人工智能应用安全可控。并以同业首家通过4+最高等级信通院可信AI大模型符合性验证。

工商银行在实践中，针对金融行业知识专业性高、任务执行严谨、权限隔离严格等特点，打造适配金融行业的“1+X”工程化解决方案，其中“1”是指金融智能中枢，通过Agent大模型加持、动静结合任务规划等，在金融复杂场景任务拆解、规划、执行成功准确率90%以上，并具备分钟级构建智能体的能力；“X”包含知识检索、数据分析、文档编写、智能搜索等多项金融常用的工程化解决方案，金融知识问答满意度90%，对话式指标查询准确率95%以上，达业界领先水平。

智能中枢解决方案提供五步创建工艺，采用积木式组装模式快速构建智能体，支持分钟级构建金融数字助手,通过自然语言驱动智能体灵活组合各类数据服务、智能模型服务、业务系统API等完成交易执行，实现从零散技能到领域级全能岗位助手、定制化个人分身的赋能模式变革。

对话式数据分析以BI大模型能力为核心，辅助数据资产知识化管理，以自然语言交互的方式，实现数据分析一问即答。全面支持对接主流各类数据库，支持存量报表资产检索，实现工商银行数据中台全量资产知识化管理。赋能全行近2万+数据分析人员、20万+营销运营人员，解决一线业务人员海量数据资产使用难、决策慢的问题。

考虑到不同业务部门创新动力差异，确保大模型应用由简到易、规模化有序推进，工商银行提出两阶六步金融大模型应用创新方法论、“3-1-N”基于范式的AI技术规模化转换方法论。

一是两阶六部方法论。运用科技业务双前移的融合创新机制，疏通技术赋能业务领域的整体价值链，明确用大模型“做什么、怎么做”。二是“3-1-N”方法论。首选相对简单、容易突破的业务领域，孵化1个精品标杆案例，打磨2个相似场景，提炼出典型、端到端的大模型应用范式，进而实现全行相似的场景的推广，形成精品标杆场景打造-沉淀标准应用范式能力-全域规模化推广的最佳实践。

目前已实现各个业务领域规模化推广，覆盖20多个业务领域、150多个业务场景。下面选取两个典型应用介绍大模型在实际场景中的赋能效果。

在金融市场领域，以金融市场数字员工“工小金”为交互统一入口，推出“ChatDealing智能对话交易产品”与“投资副驾”（FIR Copilot），将智能化深度融合于业务全过程，推动金融市场业务全面数智化。其中，交互式对话交易助手ChatDealing，基于ALL in Chat理念，实现支行、分行、总行多方交易员在同一交易对话框中通过对话完成价格磋商，运用大模型识别用户意图，并智能识别交易话术，生成交易意向单达成交易。重塑原有“先线下电话沟通，后线上流审批、报价”的业务模式，实现对客交易效率提升3倍。现已上线即期结售汇、远期结售汇、即期外汇、远期外汇、外汇组合产品等业务产品，目前已覆盖80%的对客询价交易场景，83%的即远期询价业务通过ChatDealing来开展。

在个人金融领域，面向数字化运营的经营决策、营销执行流程中，应用大模型等新技术深化数字赋能。一是经营决策阶段。以自然语言交互模式重塑运营感知、策略制定，为总分行运营人员提供对话式数据分析、活动部署助手，提升数据驱动的决策能力。支持对话方式生成综合经营指标报表，能够有效降低用数看数门槛，满足灵活用数诉求；支持运营人员通过自然语言方式完成“圈客户、找产品、发布活动”，有效降低活动部署门槛，提升运营人员的工作质效。二是营销执行阶段。面向一线营销人员，打造营销陪伴助手，提供产品知识问答、产品对比等服务，满足营销人员便捷获取产品信息、为客户推荐合适产品等场景需求，提升营销人员客户服务效率。

大模型具有较强的通用问题解决能力，适用于文本、图像等非结构化数据的分析、理解和生成。但大模型技术的应用存在双刃剑，大模型技术提升工作效率的同时，生成伪造内容、数据泄露等安全风险日益突出。要加强人工智能潜在风险研判和防范，不断深化运用大小模型协同融合的人工智能技术，推动商业银行在安全可控情况下向着更加智能化、个性化、高效化的方向发展。未来大模型在金融行业的应用，可从如下四个方面开展：

一是做深大模型技术支撑能力。金融机构应根据自身体量，按照资源集约、共享复用、成本效益最优的准则，围绕大模型算力、算法和数据三方面开展人工智能大模型企业级技术能力建设。

二是做大数据资产建设。大模型的应用离不开优质数据的训练。金融机构应重视数据资产储备与积累，关注数据资产建设问题。在数据采集、存储、分析、应用等多个阶段，建立完善的数据管理办法，树立以数据驱动为核心的理念，打破部门壁垒，推动数据共享和协作。

三是做强大模型人才队伍建设。AI大模型业务应用成效是前期投入的集中映射，金融机构应培养更多“懂业务通技术”的复合型人才，可充分挖掘大模型内涵知识的潜力，打造更多突破性场景。

四是加快跨行业联合创新。大模型所涉及的算力、算法等相关核心技术尚处于快速发展期，金融行业需加深与头部科研机构、企业的联合创新，持续保持资源投入，加速大模型技术在金融行业的研究和创新应用，增强我国数字经济发展的国际竞争力。

我的分享结束，谢谢大家。