MongoDB技术架构总结回顾

文摘   科技   2024-10-02 19:01   湖北  
  • 一、MongoDB概述

    • MongoDB的主要特点

  • 二、MongoDB技术架构

  • 三、MongoDB集群架构模式

    • 1. 主从复制(Master-Slave)

    • 2. 副本集(Replica Set)

    • 3. 分片(Sharding)

一、MongoDB概述

MongoDB是一个面向文档的数据库,它以BSON(Binary JSON)格式存储数据。与关系型数据库不同,MongoDB没有固定的表结构,允许存储不同结构和类型的数据。MongoDB非常适合处理半结构化和非结构化数据,如日志、社交媒体数据等。

MongoDB的主要特点

  1. 高性能:  MongoDB使用内存映射文件存储引擎(WiredTiger或MMAPv1),支持高速数据读写操作。
  2. 高可用性: MongoDB支持主从复制和分片集群,确保数据的高可用性和可扩展性。
  3. 灵活性:   MongoDB支持动态模式,允许在运行时添加或删除字段。
  4. 丰富的查询语言: MongoDB提供强大的查询语言,支持聚合、文本搜索、地理空间查询等功能。

二、MongoDB技术架构

MongoDB的技术架构分为以下几个层次:

  1. 数据存储层:MongoDB使用内存映射文件存储引擎(如WiredTiger)将数据持久化到磁盘。存储引擎负责数据的读写、压缩、加密等操作。MongoDB将数据划分为多个集合(collection),每个集合包含多个文档(document)。文档是MongoDB的基本数据单位,以BSON格式存储。
  2. 数据模型层:MongoDB的数据模型基于文档,支持嵌套文档和数组。这使得MongoDB能够存储复杂的数据结构,如树形结构、图形数据等。MongoDB还提供了丰富的数据类型,如字符串、整数、浮点数、日期、二进制数据等。
  3. 查询语言层:MongoDB使用基于文档的查询语言(MongoDB Query Language,MQL),支持丰富的查询操作符和聚合管道。MQL允许用户根据文档的结构和内容进行查询,实现灵活的数据检索和分析。
  4. 索引层:MongoDB支持多种类型的索引,如单字段索引、复合索引、地理空间索引等。索引可以提高查询性能,加快数据的检索速度。MongoDB还支持索引交集和索引覆盖扫描等优化技术,进一步提高查询效率。
  5. 复制和分片层:MongoDB支持主从复制和分片集群,确保数据的高可用性和可扩展性。主从复制可以实现数据的备份和故障恢复;分片集群可以将数据分布在多个节点上,实现水平扩展和负载均衡。
  6. 事务层:MongoDB从4.0版本开始支持多文档事务,确保数据的一致性和完整性。事务是一系列操作的原子单位,要么全部成功,要么全部失败。MongoDB的事务支持隔离级别为“可重复读”(Read Committed),满足大多数应用程序的需求。

三、MongoDB集群架构模式

MongoDB的三种主要集群架构模式分别是主从复制(Master-Slave)、副本集(Replica Set)和分片(Sharding)。

1. 主从复制(Master-Slave)

这是一种简单的复制模式,其中一台服务器被配置为主服务器(Master),负责处理所有的写操作和部分读操作,而其他服务器则作为从服务器(Slave),主要处理读操作以及作为主服务器的备份。然而,主从复制模式存在一些缺点,例如,主节点故障时,系统无法自动切换,需要手动干预;同时,主从复制模式下数据一致性的保障也相对较弱。因此,MongoDB官方已经不建议在新的生产环境中使用这种模式。

2. 副本集(Replica Set)

副本集是MongoDB推荐的生产环境部署模式。在副本集中,每个节点都可以担任主节点或从节点的角色,通过异步复制数据到多个服务器上,保证了数据的高可用性和冗余性。当主节点出现故障时,副本集可以自动进行故障切换,选择一个从节点成为新的主节点,从而保证了服务的连续性。此外,副本集还提供了数据冗余,增强了数据的容错能力。

3. 分片(Sharding)

分片是MongoDB处理大规模数据的核心技术。通过将数据分散存储到多个服务器上,分片可以显著提高系统的整体性能和可扩展性。每个分片都是一个独立的数据库,可以独立地进行数据复制和故障恢复。在实际生产环境中,通常将副本集和分片两种技术结合使用,以实现既高性能又高可用性的数据存储解决方案。

MongoDB分片集群中共有三种角色

  • Shard角色(或称为分片服务器):这是MongoDB分片集群中的数据节点,用于存储实际的数据块。在实际生产环境中,一个Shard角色可以由几台机器组成一个副本集(Replica Set)来承担,以防止主机单点故障,保证数据的高可用性和完整性。Shard角色可以是一个副本集,也可以是单独的一台服务器。
  • Config Server角色(或称为配置服务器):这类角色主要用来保存MongoDB分片集群的元数据信息,包括各个分片包含了哪些数据的信息,以及数据块的分布信息等。Config Server角色通常由一个独立的mongod进程来运行,并且为了保证其高可用性,通常会将其运行为一个副本集。它不需要太多的存储空间,因为保存的只是数据的分布表。
  • Router角色(或称为路由服务器、mongos):这是MongoDB分片集群中的前端路由,客户端由此接入,让整个集群看上去像单一数据库。Router角色主要用来接收客户端的读写请求,并将请求路由到相应的分片上进行处理。为了使得Router角色的高可用,通常会用多个节点来组成Router高可用集群。Router角色通常由mongos实例来运行。

分片集群中,数据读写时的流程大致

  1. 客户端发送请求:客户端通过MongoDB的驱动程序连接到Router角色(mongos实例)。客户端发送读写请求到Router,请求中包含了要操作的数据库、集合以及具体的CRUD(增删改查)操作。

  2. Router路由请求:Router接收到客户端的请求后,会根据请求中的元数据信息(如数据库名、集合名和查询条件等),查询Config Server来获取数据的分片信息。Config Server返回相关的分片信息给Router,告诉它应该将数据路由到哪个Shard上进行处理。

  3. Router转发请求:Router根据从Config Server获取的分片信息,将客户端的请求转发到相应的Shard上。如果请求涉及多个Shard上的数据(如跨分片的查询),Router可能会将请求拆分成多个子请求,并分别发送到相关的Shard上进行处理。

  4. Shard处理请求:Shard接收到Router转发的请求后,会在本地执行相应的CRUD操作。如果是写操作(如插入、更新、删除),Shard会在本地进行数据变更,并将变更结果返回给Router;如果是读操作(如查询),Shard会查询本地存储的数据,并将查询结果返回给Router。

  5. Router汇总结果:如果请求涉及多个Shard上的数据,Router会等待所有Shard返回结果后,对结果进行汇总和排序等操作(如果需要的话),然后将最终的结果返回给客户端。

  6. 客户端接收结果:客户端通过MongoDB的驱动程序接收到Router返回的结果,完成一次数据读写操作。

MongoDB分片集群中的Router、Config Server和Shard之间的通信是通过MongoDB的内部协议进行的,而客户端与Router之间的通信则是通过MongoDB的驱动程序和标准的MongoDB协议进行的。此外,为了保证数据的一致性和可用性,MongoDB分片集群还提供了复制集(Replica Set)和自动故障切换等机制。

总结来说,主从复制模式由于其存在的问题已经被MongoDB官方淘汰;副本集模式适合对数据可用性有较高要求的生产环境;而分片模式则适合处理大规模数据,提高系统的整体性能和可扩展性。

太强 ! SpringBoot中出入参增强的5种方法 : 加解密、脱敏、格式转换、时间时区处理

太强 ! SpringBoot中优化if-else语句的七种绝佳方法实战

SpringBoot使用EasyExcel并行导出多个excel文件并压缩zip下载
提升编程效率的利器: Google Guava库中双向映射BitMap
从MySQL行格式原理看:为什么开发规范中不推荐NULL?数据是如何在磁盘上存储的?
SpringBoot中使用Jackson实现自定义序列化和反序列化控制的5种方式总结
提升编程效率的利器: Google Guava库之RateLimiter优雅限流
深入JVM逃逸分析原理:且看其如何提高程序性能和内存利用率
必知必会!MySQL索引下推:原理与实战

深入解析JVM内存分配优化技术:TLAB

SpringBoot中基于JWT的双token(access_token+refresh_token)授权和续期方案
SpringBoot中基于JWT的单token授权和续期方案
SpringBoot中Token登录授权、续期和主动终止的方案(Redis+Token)
微服务中token鉴权设计的4种方式总结
提升编程效率的API利器:精通Google Guava库区间范围映射RangeMap
SpringBoot中Jackson控制序列化和反序列化的注解和扩展点总结【收藏版】

SpringBoot中大量数据导出方案:使用EasyExcel并行导出多个excel文件并压缩zip后下载

SpringBoot中基于XXL-JOB实现大量数据灵活控制的分片处理方案

关注『 码到三十五 』,日有所获
                     点赞 和 在看 就是最大的支持

码到三十五
主要分享正经的开发技术(原理,架构,实践,源码等),以输出驱动输入;当然偶尔会穿插点生活琐碎,顺便吃个瓜,目的嘛,搞点精准流量,看能不能发发广告。
 最新文章