【金松奖】宁夏银行:基于AI大模型的智能金融知识库探索与实践

财富   2025-01-16 11:38   广东  

当前人工智能技术的飞速发展正在重塑全球产业格局,同时也为金融行业的数字化转型开辟了新的前景。作为知识密集型行业,金融机构普遍面临信息孤岛、知识检索效率低、知识内容更新滞后等挑战,这不仅影响日常运营效率,更制约了行业创新和管理的深化。


本研究致力于探索利用生成式预训练大语言模型(简称AI大模型)构建高效、智能的金融知识库系统。这一创新性探索的意义在于:能够实现将大量非结构化金融知识数据向结构化知识体系的转化,显著提升知识管理能力和应用效率;为金融机构的产品创新、风险评估和客户服务等核心业务提供智能化知识支持;促进人机协作新模式的形成,释放金融从业者的创造力。通过构建此系统,我们旨在为金融机构尤其是银行业的日常运营和战略决策提供强有力的智能支持,推动整个行业向更高效、更创新、更智能的方向发展,最终实现金融服务的质量提升和数字化转型的深化。


方案背景


在早期阶段机器学习算法主要依赖于人工设计的特征和相对简单的模型结构。随着深度学习的兴起,尤其是transformer架构的提出,模型的参数规模和推理能力开始呈指数级增长。2018年谷歌BERT模型的出现引入了预训练和微调的范式,大大提高了模型的通用性。2020年GPT-3的发布则将大模型技术推向了新的高度,其千亿参数的规模涌现出惊人的推理及理解能力。


(一)应用现状


当前AI大模型技术在银行业的应用正迅速展现出变革性潜力,部分银行的探索实践为同业提供了宝贵的借鉴:


江苏银行的“智能文档助手”将大模型技术与实时舆情分析巧妙结合,实现了企业经营状况的自动归纳和授信调查报告的智能生成,大幅提升了信贷业务的效率和授信精准度。


长沙银行成功部署百亿级参数大模型并与行内知识库深度融合,显著提高了智能问答系统的准确性,为客户服务和内部运营赋能。


这些案例表明当前城商行AI大模型应用主要是以提升办公效率为核心,同时辐射客户服务优化和运营决策支持。宁夏银行也应积极响应这一趋势,探索适合自身发展的AI大模型应用场景既是机遇也是挑战。


(二)政策支持


国家层面高度重视AI大模型的发展与应用,2017年国务院发布的《新一代人工智能发展规划》明确了人工智能发展的战略蓝图和关键任务,为行业发展指明方向。2024年《政府工作报告》进一步提出“人工智能+”行动计划,彰显了国家推动AI技术全面深化应用的决心。


地方政府积极响应国家战略,2023年8月宁夏回族自治区人民政府办公厅印发《促进人工智能创新发展政策措施》,旨在打造全国性算力产业高地,体现了宁夏政府对AI产业的战略布局和发展决心。


以上政策为AI大模型在金融领域的应用提供了有力的支持和指导。


方案目标


(一)提升品牌影响力


AI大模型等人工智能技术的运用使宁夏银行能够显著提升运营效率、优化客户服务、创新业务场景,并以此进一步巩固宁夏地区银行业的领先地位,从而塑造其科技驱动、创新进取的品牌形象。


(二)加速产品创新


AI大模型的理解推理能力能够助力银行业核心业务智能化、个性化发展,并进一步孵化更多具备竞争力和创新性的金融产品,加速银行业产品与服务创新。


(三)响应数字金融新趋势


AI大模型的应用加速了银行业的数字化转型进程,进一步实现行业转型升级和创新发展。宁夏银行积极响应当前数字金融发展新趋势,紧跟金融科技的发展步伐的同时进一步保持竞争优势。


(四)研究组织形式


宁夏银行金融科技部对AI大模型的研究始于2023年底并经历了以下几个关键阶段:2023年底由金融科技部人才小高地科研团队“宁银科技”孵化成立AI大模型实验室并开展系统性研究工作。2024年初AI大模型实验室组织10余场国内AI大模型企业的交流会,深入了解行业最新发展和应用趋势。2024年4月正式确定研究方向和实施计划。


研究方向聚焦于打造基于AI大模型的智能金融知识库,目标是为行内员工和智能客服提供高效、准确的知识问答服务。预期成果是期望构建一款全栈自研的AI大模型金融知识库系统。


方案特点


1、本方案优势


(一)强大的语义理解能力:基于AI大模型的智能金融知识库通过API接入后,能够更好地理解复杂的金融术语和用户意图,提供更准确的金融知识和建议。


(二)高效的信息处理与生成:大模型可以根据知识库快速处理和生成大量金融信息智能问答,能够基于特定主题生成一系列关键词并匹配相关主题领域。


(三)多模态数据处理:通过API接入的大模型可以处理多种类型的数据,包括文本、图像、语音等,提供更全面的金融服务。确保金融知识库能够提供个性化和精确的客户服务。


2、解决的痛点


(一)信息不对称:金融行业信息密集,用户和金融机构之间存在信息不对称。大模型通过API接入后,可以提供更全面、准确的金融信息,帮助用户做出更明智的问答。


二)复杂问题解决:传统智能客服在处理复杂金融问题时往往力不从心。通过API接入的大模型可以处理更复杂的询问,提供更为智能和人性化的回答。例如,需求检索机器人通过构建知识图谱和大模型,实现了对客户需求的快速准确检索。


(三)降本增效:金融机构在处理大量客户咨询和业务流程时,成本较高。大模型通过API接入后,可以自动化处理大量重复性任务,减少人工干预,提高效率。


(四)提升金融服务效率:大模型通过API接入后,可以快速处理和回答金融知识,提升金融机构的运营效率。


3、对产业务影响力


(一)推动金融创新:大模型的接入为金融机构提供了新的技术手段,推动金融产品和服务的创新。


(二)促进普惠金融发展:大模型通过API接入后,可以降低金融服务的门槛,使更多长尾客户能够获得高质量的金融服务。


(三)改变产业格局:大模型的应用将促使金融机构与科技公司形成“竞合”关系,推动金融行业的数字化转型。 


方案业务流程图


1、技术原理


本研究立足于人工智能前沿技术,探索了AI大模型在金融行业的创新应用场景。核心技术是基于AI大模型的Prompt(提示词)工程和RAG(检索增强生成)技术的融合,旨在构建一个高效准确、可扩展的金融智能知识库系统。当前垂直领域主要通过以下三种主流的大模型技术赋能:


(一)Prompt(提示词)工程:是指通过精心设计的自然语言指令来引导大模型产出自然语言的技术。通过利用自然语言的逻辑性和大模型的理解推理能力,实现对大模型输出的精确控制。


(二)RAG(检索增强生成)技术:是一种将信息检索与模型生成相结合的技术,源自2020年Facebook的开创性工作。RAG突破了传统大模型知识时效性和领域局限性的瓶颈,通过实时检索整合外部知识,使大模型能够获取最新最全面的金融知识,大幅提升回答的准确性和时效性。


(三)Tuning(模型微调)技术:是一种通过“新知识”来扩充预训练大模型参数的方法,进而实现大模型在回答指定问题时可以使用“新知识”作为补充。虽然能有效提升大模型在特定领域的性能,但其高昂的训练成本和资源需求使其难以被广泛采用。


基于对这些技术的深入研究和实践经验,我们创新性地将Prompt工程与RAG技术进行了有机融合。这种融合同时兼顾实施成本、复杂度和效果产出等关键因素,并最终形成了适用于金融行业的“低成本”、“易实现”、“效果好”的智能知识库解决方案。本方案的创新之处在于,充分利用Prompt工程的灵活性和RAG技术的知识扩展能力,实现了对金融领域知识的精准问答和动态更新。


2、整体结构


如下图1是基于AI大模型的智能金融知识库系统整体结构示意:


(图1:AI大模型智能金融知识库系统结构)


智能金融知识库系统的核心结构包含三个关键阶段和两个主要流程,并以此形成了一个完整的知识管理和应用闭环。


(一)知识增强阶段:此阶段是系统的基础环节,负责将大量非结构化知识文档通过文本清洗、实体识别、语义分割和词嵌入(Embedding)等方法转换为结构化的低维度数字向量并保存于向量数据库中。此过程既实现了多维知识文档的低维度处理,同时也保留了文本的语义信息为后续精准匹配奠定基础。


(二)数据检索阶段:此阶段是系统的核心流程,负责将用户提问与知识库中的低维向量内容进行精准匹配。通过将用户问题转化为数字向量,系统利用余弦相似度等匹配算法在向量数据库中快速定位最相关的知识片段。最终了实现通过用户提问检索出对应知识库文档片段的目的。


(三)语言生成阶段:此阶段是系统的创新亮点,通过构造Prompt模版,系统将用户提问和检索的知识库文档片段有机整合,为大模型提供语言生成场景,最终由大模型基于该场景回答用户所提出的问题。通过这种方式系统真正实现了知识的智能化应用和创新性表达。


3、两大核心流程


(一)数据准备流程:是系统的后台运作流程,主要发生在知识增强阶段。它将各种格式的金融文档转化为低维度的数字向量,并存储在高性能的向量数据库中。此流程确保了知识库的持续更新和动态扩展。


(二)用户问答流程:是系统的前台交互流程,直接服务于前台用户。从用户输入问题开始,系统快速进行向量转换、相似度匹配、上下文整合,最后由AI大模型生成专业准确的自然语言回答。此流程集合了系统的所有技术优势,实现了从用户需求到知识应用的无缝衔接。


综上所述,基于AI大模型的智能金融知识库系统代表了知识管理和人工智能技术的最新融合。通过精心设计的三大阶段和两大流程,系统实现了高效、稳定、智能的运行。


4、系统架构


通过上文技术原理及系统结构介绍,已为读者理清系统原理及运行机制。接下来根据我行业务特点及IT系统建设现状,结合行业内领先系统建设的成功案例,并在充分考虑监管合规要求及精细化管理,规划并设计本系统应用架构,具体如下图2所示:


(图2:AI大模型智能知识库系统架构图)


本系统以纵向分层、横向模块化的设计原则,将系统整体划分为纵向五层及横向运行的若干功能模块。架构设计体现了结构化、模块化和智能化的核心理念。


(一)系统入口:渠道层和接口层共同构筑了灵活多样的系统交互方式。渠道层能够衍生出智能客服、制度助手、编程助手在内的多样化应用场景,不仅满足了当前的业务需求,还为未来的AI产品孵化提供了广阔空间。与之紧密相连的接口层则通过支持WEB和API两种方式,确保了不同渠道能够无缝对接,大大提高了系统的兼容性和可访问性。


(二)系统核心:服务层和基础层犹如一个高度智能化的大脑,协调处理各种复杂的任务。服务层采用模块化设计,包含问答服务、知识库服务和用户管理等核心功能,为系统的稳定运行和未来扩展奠定了基础。基础层则是系统的技术引擎,集成数据脱敏、词嵌入模型和知识文档处理等关键组件。同时引入Fastchat框架,实现了本地和云端AI大模型的灵活切换与调用。此外内置的日志监控和问答质量评测机制,更是为系统运行的可靠性和服务质量的可持续优化提供保障。


(三)系统基石:持久层通过关系型数据库NAS文件存储和向量数据库的协同工作,构建了一个强大而高效的数据管理体系。这不仅保障了系统配置、原始文档和向量化知识的安全离线存储,也为快速检索和智能分析提供了坚实的数据基础。


整个系统架构充分体现了技术融合、安全可控、灵活可扩展和高度智能化的设计理念。通过将成熟的数据处理技术与前沿AI大模型深度结合,系统在保障数据安全和服务质量的同时,也为未来的功能扩展和性能优化预留了充足的空间。


实现功能展示



方案案例及效果


经过前期探索实践我们基本实现既定的研究目标,成功开发并部署智能金融知识库系统。同时基于本系统分别搭建两项应用场景:基于业务制度的信贷AI助手及基于客服语料的客服AI助手。


在信贷AI助手场景下,知识库内容主要是本行信贷业务各项制度及信贷系统“千问千答”使用手册。通过将本系统页面无缝集成到信贷系统中,能够方便客户经理实时提问信贷相关制度及系统使用问题,极大提升信贷系统作业效率。


在客服AI助手场景下,知识库内容主要是本行客服日常积累的问答话术。本行原有客服系统将15%系统无法回答的问题通过调用客服AI助手对应接口获取答案,经业务人员测试,客服AI助手回答正确率在90%以上有效补充了现有客服功能。


以上场景均借助智能金融知识库系统扩展而来,这些应用成果充分展示了本系统在提升业务效率和服务质量方面的巨大潜力。


方案未来展望


(一)创新突破


本研究在技术和方法论上取得了以下创新突破:


技术突破:成功实现了大规模金融知识的向量化和高效检索,突破了传统知识库在处理非结构化数据方面的瓶颈。


方法论创新:提出了一种适合金融领域的知识管理和应用方法,能够有效处理金融数据的复杂性和专业性。深化了AI大模型在金融领域中的应用理解,为金融行业的数字化智能化转型提供了新的思路。


(二)后续提升


为了进一步提升AI大模型知识库的系统性能和应用场景,我们制定了以下长期发展目标和实施路径:


场景拓展:将知识库应用扩展到更多业务领域,如营销顾问、风险评估等。


持续迭代:按期进行知识库内容更新和性能评估。建立快速响应机制,及时应对新出现的市场热点和监管变化。


通过以上努力,我们旨在将AI大模型智能金融知识库打造成为宁夏银行的竞争力之一。在数字化浪潮中,AI驱动的智能解决方案将成为宁夏银行转型的重要引擎,并持续推动宁夏银行向更智能、更高效的现代金融机构迈进。


点击“阅读原文”,申报金松奖!

银行科技研究社
《移动支付网》旗下新媒体矩阵,银行科技从业者聚集地。
 最新文章