主机上云 | 自主可控的信用卡分布式架构核心系统建设实践

文 / 上海浦东发展银行科技发展部 陈海宁  冯文亮  秦文劭

上海浦东发展银行信用卡中心 李虎  曾毅峰  高磊

建成后的浦发银行信用卡分布式核心系统，实现了服务器、操作系统、数据库、各项中间件等各项基础软硬件对自主可控能力的全面适配接入，完成了“两地四中心”的全栈自主可控基础设施建设，全面完成了自主可控的目标。在历经两年的项目建设过程中，系统接入了灵活的容器云集群及浦发银行自研的分布式平台、DevOps平台、企业级微服务平台、容器PaaS平台、云原生容器运维平台等配套系统和组件。2024年9月投产时，系统已完成100%的自主可控软硬件替代。同时，浦发银行联合服务器、操作系统、分布式数据库等国内合作伙伴，解决了跨单元跨分片处理、高并发下分布式事务处理和数据库计算资源争抢等一系列的技术难题，完成了上海、合肥“两地四中心”机房的设备全面部署和软硬件兼容，率先实现了银行业关键信息基础设施全栈自主可控。

在项目建设中，我行还通过自研自动化工具和平台实现了对需求、架构、开发、测试、投产、运维等过程的全生命周期管控和敏捷迭代开发，建立了一套高质量敏捷交付研发工艺，极大提升了自主研发的交付周期。项目通过需求迭代交付、流水线自动构建、质量门禁审核、镜像自动更新智能部署等全流程自动化研发需求管理平台，在保证研发质量和缺陷管控的同时，实现了高质量敏捷开发交付和测试迭代，加速了业务需求与科技方案融合的深度与速度，形成了完整并严格落实各阶段质量的标准。

我行信用卡分布式核心系统建设采用分布式单元化的设计理念，支持单元内的计算资源、数据库资源的扩展，有完备的容量扩展方案。采用分布式数据库，数据采用分片存储，可提供同城数据库的高可用支持；使用云容器无状态架构设计，实现系统中各微服务模块的联机应用、批量应用的整体云原生部署和管理。项目通过单元化、组件化、可视化的应用架构设计，使用分布式事务、分布式缓存等各类分布式组件，满足长期的业务发展规划要求，能灵活扩展支撑和适配业务的快速发展。

分布式架构对业务连续性的运维工作提出了极大挑战，浦发银行信用卡分布式核心系统采用“两地四中心”部署设计，打造了上海和合肥“同城双活+异地灾备”的高可用架构，实现了极端灾难场景下的同城秒级切换、异地分钟级切换能力。项目在建设同时，还打造了融合自动化工具、大数据处理平台、AI算法平台，建成了应用、数据库、系统、网络的监测、管理、控制于一体的多维度分布式运维平台（ITOA），能够实现快速异常感知和故障处置，支撑海量业务交易处理。经过多项实战的灾备演练，我行架构先行、智能运维、快速响应的分布式架构运维设计，能够有效提升业务连续性和数据安全性，极大提高了灾害恢复能力，具备同业领先水平的业务连续性保障能力。

分布式架构针对核心系统而言是全新的挑战，本系统建设采用单元化设计，数据库采用多集群部署，业务单元的每个数据库集群可存储多个业务逻辑单元；在系统整体设计时，尽量发挥分布式架构的优势，减少系统复杂度，同时通过下述重点方案设计解决了分布式架构中的主要问题。

1.分布式框架下的账务一致性设计

核心系统要实现所有周边相关联系统的双向核对，尤其是在分布式架构下，要保持系统内的一致性并利用系统间的校准关系对账务进行核对。在会计流水对账方面，会计引擎与核心之间针对完整性具备完善的流水对账机制，保证核心产生的每一笔流水均能成功传输至会计引擎；在业务层面，会计引擎针对核心余额、分期余额、ABS余额、预提余额、计提递延、准备金等均具备完善的总分核对机制，开发了能快速定位到账户级的差异的动户核对功能，能快速定位解决总分差异问题。

2.分库分表下的分布式批量调度

信用卡分布式核心系统采用行内统一的分布式批量平台（DBP）进行分布式批量调度。其中任务调度服务负责对批次作业的任务进行子任务拆分，并将拆分的子任务发送至消息队列中；在批次任务的执行集群中，按公共单元和业务单元来划分批次任务集群；集群节点将通过订阅的方式获取子任务的配置，并在执行节点上运行。每个执行节点通过配置消费并行数量控制执行节点的并发执行任务数；通过增加节点，增加并行数的方式可提升任务的处理效率；按业务类型划分，不同子系统的批次任务独立部署，相互隔离。

3.分布式事务下会计流水准实时处理

我行会计系统采取单独建设模式，与信用卡分布式核心系统在不同的数据库中，通过消息中间件进行会计流水的准实时同步的建设方案。会计系统的会计流水数据，通过分析监听数据库Binlog的形式实时获取各个单元的会计事件流水，在会计事件处理服务中进行实时会计流水加工处理。每日每小时将以定时增量的方式将流水文件上传到对象存储，会计批量任务将从对象存储上获取增量流水文件，进行每日定时对账。日终结束后将所有处理完的会计汇总数据进行入库，并导出会计文件上传至对象存储，提供给总行总账系统和外围其他系统使用。

4.金融交易异常处理

信用卡分布式核心系统将同一客户下主附卡片、账户、客户信息设计在同一单元内，在金融交易处理时，在同一个事务中进行授权、额度和实时余额的记账处理，因此不涉及跨库和分布式事务。在金融交易失败时，单个事务回滚即可保证一致性。信用卡分布式核心系统的一个交易可以看作是一个全局事务，由多个分支事务组成，可能因为一个分支事务超时而出现异常，当出现系统异常时，全局事务中间件（DTF）会首先尝试进行回滚重试，若重试成功，则该交易正常报错；若不成功，则形成事务异常。当发起全局事务回滚时，支持从日志到通用反交易策略到定制反交易的逐层精细回滚策略选择，提升回滚成功率。事务异常的自动处理中，异常处理模块监听交易产生的事务异常事件，根据配置的重试次数及时间间隔进行自动回滚处理。若回滚成功，则交易正常失败；若依然无法成功，则判断是否可以解除事务锁，并进行宕账处理。其次，异常处理平台会将未自动处理成功的异常进行预警，由相关业务人员处理。

投产后的信用卡分布式架构核心系统，支持亿级账户量、7000TPS金融类交易、30000TPS非金融交易处理能力，支持每日批量文件处理能力，支持横向扩展。当前新系统已经历今年“双十一”多个交易高峰期的考验，系统运行平稳，风险监控正常。新系统投产运行后，日终客户级批量时间也有显著缩短，从原来2小时缩减至0.5小时，实现零时日切。并在支持当前批量供数的前提下，新增提供全量数据库表准实时数据同步服务，外围系统与核心系统实时共享客户的信息变动、交易行为等数据。支持将交易、分期、贷款、收入等准确拆分至对应客户、业务、渠道、部门，提升经营分析、会计决算的质量与效率。

浦发银行信用卡分布式核心系统完成了自主可控和分布式架构体系双重背景下的技术框架和业务模型整体颠覆性改造。在服务器、数据库、中间件等自主可控的软硬件基座上，解决了分布式架构设计、数据质量建设、账务一致性设计、金融交易处理机制、分布式运维等一系列难题，验证了全栈自主可控的软硬件可以支撑金融业关键信息基础设施的严苛要求，为我国商业银行基于自主可控背景下的分布式核心系统建设提供了一套可靠的技术路线和可行的实施方案。

习近平总书记在考察上海时指出，要加强现代金融机构和金融基础设施建设，更好服务实体经济、科技创新。建成后的浦发银行信用卡分布式核心系统，打破了传统账户架构体系，引入一卡多账户、交易级子账户、额度树等同业先进功能，创新设计了事件场景体系、红绿灯体系，重构了基础功能、产品管理、交易管理和账务管理四大功能模块近2500项功能。通过搭建面向内外部管理精细化的账务管理体系，基于交易场景的灵活授信和实时营销机制，打造了支撑灵活多变的业务场景新授权模式；通过统一信用卡生命周期中各业务准入控制，实现了基于客户视角的全景视图和全过程管理，助力信用卡场景化解析和经营更加精准、交易更加简便、业务范围更加广泛、交互更加实时、服务覆盖面进一步扩展、客户体验大幅提升，有力提升了信用卡体系业务的综合服务能力，能更好更快响应外籍人来华支付需求，服务长三角一体化建设，扎实写好数字金融这篇大文章，加快推动新质生产力发展。

（此文刊发于《金融电子化》2024年12月上半月刊）