鲸品堂|数据洪流中的智驭:受理中心内存化转型破晓之旅

科技   2024-09-02 17:06   江苏  


开篇:内存数据库,数据海洋的领航灯塔



在数据洪流激荡的信息时代,金融与电信行业作为数据领域的领航者,迫切需要革新技术以应对数据量的爆炸性增长。据IDC预测,中国数据量将于2025年达到48.6ZB,约占全球数据的四分之一,这对传统数据处理架构构成巨大挑战。在此背景下,内存数据库作为新一代数据处理中枢,其重要性不言而喻,成为数据密集型应用的“定海神针”。


以此为契机,某头部券商于2024年部署了先进的“UF3.0内存交易系统”,利用Ultra-Fast Transactional Memory Database (UFTMDB),实现了数据处理能力的历史性飞跃,为金融行业乃至电信领域树立了转型的典范。电信行业,面对客户分析、流量优化、实时计费及物联网数据处理等复杂需求,内存数据库的引入如同启明灯塔,预示着一场关乎数据处理速度与效率的革命,赋能电信企业穿透数据迷雾,加速业务创新与优化。


内存数据库的应用,不仅是技术架构的革新,更是数据密集型产业未来发展的核心驱动力。它引领行业深入数据海洋的未知深处,探索智能应用的无限疆界,以科技之光点亮数据智慧的璀璨未来。


受理中心内存化是TOB业务用MVP产品开发模式的实践产物

MVP(Minimum Viable Product)是一种高效的产品开发策略,旨在以最少的时间与资源投入,快速构建能满足目标用户核心需求的产品原型。此策略聚焦于验证市场需求与产品假设,促进快速迭代与优化。


针对TOB(Business to Business)业务环境,我们的探讨集中于如何通过MVP方法解决企业级客户面临的紧迫问题,尤其是那些依赖复杂数据处理系统的组织。


受理中心,作为电信领域数据密集型业务的核心,其技术架构的演变是一部探索与挑战并存的编年史。从基础的数据库、高速缓存到搜索索引、流处理、批处理,每一模块都承载着不同的使命与挑战。然而,传统单一数据库架构的局限性日益凸显,尤其是在处理海量数据时的效率瓶颈与业务连续性的威胁。因此,一场围绕数据存储与处理分离的革新迫在眉睫,内存数据库的引入,不仅是为了加速数据处理,更是为了构筑一个高度可用、高效能且容灾能力强的核心业务体系。



孵化:孵化产品的苦楚与转型的辉煌



在深入分析某服务省份的运维挑战后,我们识别并归纳了三大关键痛点:


业务连续性风险:核心业务因关系数据库故障而频繁中断,凸显出对高可用性和容错机制的需求。


性能瓶颈:随着数据量增长,现有架构难以支撑,月末尤为明显,单纯的功能调优已无法根治此问题。


系统稳定性脆弱:大事务处理导致的性能骤降,影响范围广,甚至波及整个业务生态,强调了强健的系统抗压能力之重要性。


基于这些痛点,我们探索了产品创新的契机,借鉴金融行业成功案例,考虑引入多数据库架构结合内存数据库技术,以增强系统容灾能力和数据处理效能。为了实现这一构想,我们采取了以下关键措施:


语法兼容性优化:自研内存数据库(ZMDB)经历了全面的语法改造,确保对广泛SQL语句的支持,包括复杂的查询和排序,覆盖超过95%的常用语法,为多数据库模式奠定基础。



灵活的数据库模式切换:通过智能工具拦截与转换SQL指令,实现了核心业务逻辑对多数据库模式的无缝适配,不仅支持读操作的灵活路由,还实现了写操作的并行处理,经过严格测试,确保了ZMDB在实际业务场景下的稳定性和性能。


最终,这款精心设计的解决方案不仅有效缓解了原生的“三痛”问题,而且通过引入内存数据库强化了系统处理“三超”(超低延迟、超高并发、超高稳定性)场景的能力,标志着产品从理论向实践的成功转化。此过程不仅验证了MVP策略在TOB领域应用的有效性,也展示了技术创新如何精准响应行业痛点,推动服务升级与价值创造。



创生:ZMDB内存数据库的辉煌启航




明确本期产品概念


解决“三痛”是本期产品提升核心。多数据库模式解决核心业务不中断,保证多数据库的同步的一致性是重中之重,我们通过双通道数据同步能力来解决。

  • 同步双写:将生产业务SQL转换为ZMDB的SQL,并在指定ZMDB实例执行,同步时效完全实时

  • 异步通知:业务数据完成写表后由SQL解析引擎解析语句并通过刷新通知的方式进行同步,效率为准实时

  • 数据稽核:多轮全量业务数据稽核,保障了MYSQL/ZMDB两侧数据一致性。


将部分核心业务查询数据改造使用内存库,并支撑无感切换。

  • 核心接口内存化 :将核心查询接口及订单核心流程适配ZMDB改造,实现核心查询内存化,降低物理库压力。

  • 关系数据库异常无影响:ZMDB承接所有核心数据,数据库异常时,ZMDB可承接100%的核心业务正常运行。

  • 支持异构数据访问服务:ZMDB异常时,可手工/自动切换访问关系数据库,承接认证服务视多模式数据库性能而定。


逻辑重构、支撑受理中心核心SQL在ZMDB高可用。

  • 实例资料启用内存查询:核心逻辑针对大数据量查询切换到ZMDB进行查询(产品实例、销售品实例等千万级大表)。

  • SQL逻辑重构:拆分系统老旧复杂SQL语句并按照ZMDB类型函数支持规范保证可用,并对查询处理逻辑进行全面调优。

    图示:ZMDB语法实例和支撑范围

  • 竞品对标:相同SQL逻辑下证明ZMDB(自研)效能最佳。

ZMD底座拥有自检、自恢复、自熔断能力,抗冲击能力大于关系数据库防冲能力。

  • 异常服务自检测:异常服务10秒内可自动检测告警,并尝试自动重启恢复。

  • 支持一键熔断:支持手工一键熔断,3分钟内可阻断所有调用,减少异常影响。

  • 主备切换:ZMDB具备节点心跳监测机制,对不可用的节点自动切换到备用节点。


产品演示DEMO


访问上亿实例数据prod_inst_func表由MYSQL的338MS->ZMDB的68MS。接口启用ZMDB,在MYSQL停掉的情况下仍然正常工作。



同一查询接口进行ZMDB和MYSQL的性能压测,在高并发下ZMDB性能损耗远小于MYSQL。



综上,引入ZMDB内存数据库,可以解决客户提出“三痛问题。”





启航:筑基与飞跃





搞定种子用户
搞定种子用户
  • 业务不中断:某省不能中断业务试点改造上线(集团电渠查询、携号转网)


  • 解决千万 (亿) 实例数据查询的性能瓶颈   

  •  用ZMDB提升关系数据库导致业务抗冲能力

    ZMDB在侧是首次作为生产库,但此前已经其他产品领域实现了无故障支撑,支撑情况如下:


ZMDB现有支撑情况
实例总数70+
数据总数千亿级
单实例日均活跃链接5000+
系统故障数年均<=3
服务中断数(系统原因)年均<=1



加快产品上线
搞定种子用户

从“三痛”到“三超”的全面提效,推动业务响应进入MS时代。


超低延迟业务场景:

  • ZMDB提供本地缓存服务,业务无缝接入,使平均查询性能能达到1~3ms,为低时延业务场景提供支持。

  • ZMDB支持个性化的缓存表配置,节省网络性能损耗,查询性能更优。

  • 受理中心目前在应用最广、客户感知最强的客户接待、携号转网、集团接口等模块实现了业务内存化。


超高并发业务场景:

DBC Driver与业务同主机部署,既减少了网络时延的开销,也减少了服务规模的限制。基于内存的数据服务和结构管理,保证高并发下读写操作的TPS集群支持HASH自动平均分片,保证了数据分片的均匀性,下图为ZMDB和Mysql在同线程下TPS对比。


超高稳定业务场景:

ZMDB有最高三年0中断的实际运行案例,详细情况可参考“用ZMDB提升关系数据库导致业务抗冲能力”中ZMDB支持情况章节的描述。





哺育:成长与发展轨迹





推出标准产品
搞定种子用户
  • SQL写法标准化:发布受理中心SQL标准规范《受理中心业务内存化SQL开发规范》。已有SQL通过检验、数据同步对比的方式适配改造,新增严格执行规范要求。可兼容关系数据库和内存数据库的语法

  • 同步工具标准化:基于底层关系数据库的日志开发数据同步到ZMB的标准工具,实现多数据模式下数据同步一致性和标准化

  • 事务机制标准化:只读、只处理、既处理又查询做严格分离和区分。只读启用内存库、只处理不用内存库、既处理又查询按业务场景启用内存库

  • 更多的用户:用标准的规范、标准的工具在不同省份相同的业务系统(数据体量可能相同也有可能不同)落地,选择不同的业务系统落地(例如非受理的卫星产品等)






持续产品迭代
搞定种子用户
  • 主航道再提速:利用内存数据库性能优势实现订单的“秒开”“秒办”

  • 运维更智能:内存、缓存、数据库访问控制颗粒度细化至单一业务规则,支持页面一键无缝切换和访问控制

  • 数据管理平台化:ZMD提供运维作业平台,常规监控、日常维护、数据处理均可以通过平台作业完成。支持不同数据库的数据定期比对、支持不规范SQL监控告警

  • 轻量级侵入:支持内存化数据对关系数据库的轻量级侵入来捕获DML语句






结束篇:科技革命璀璨创新基石



科技革命的浪潮催促我们以月度为单位推进产品迭代,要求我们不仅是适应与拥抱变化,更要主动寻求变革与创新,旨在前瞻布局,精确卡位。通过勇气驱动的创新与严谨的实践验证,我们巩固产品基石,期许未来收获卓越、成熟之果实。


正如古人云,“不积跬步,无以至千里”。作为企业数字化转型的同路人,你我在这场时代征途中,或许在某个深夜梦回时分,会记起某篇满载启迪的文章,它静静地躺在记忆的深渊,却曾点亮我们青春奋斗的航程,以学识之光引领我们前行。


相关参考:

https://www.cet.com.cn/wzsy/kjzx/10000525.shtml

IDC发布《2024年上半年中国关系型数据库软件市场跟踪报告》

浩鲸科技
数字先锋
 最新文章