本地存储还有活路吗? 从上周一个供应商问我的问题开始

文摘   2024-11-19 06:02   天津  

开头还是介绍一下群,如果感兴趣PolarDB ,MongoDB ,MySQL ,PostgreSQL ,Redis, OceanBase, Sql Server等有问题,有需求都可以加群群内有各大数据库行业大咖,可以解决你的问题。加群请联系 liuaustin3 ,(共2580人左右 1 + 2 + 3 + 4 +5 + 6 + 7)(1 2 3 4 5 6群均已爆满,新人进7群,开8群)

上个礼拜有一个存储设备商加了我,然后我以为他要入群,可他问了我一个问题,老师好,我想问一个问题,“本地存储是不是没戏了”?

当时问的我,好长一段时间没有回过神。不过本着人家过来问,最终的有一个回答,且还问的这么“真切”。本着这世界没有对错,只有观点不同的人生观,这里我可以从不同的角度来看这个问题。但我可能回答的有点要拐弯抹角,且不一开始直面问题。

这里我从一篇关于云存储的论文开始这个话题。

这篇文章本身并不是直接来说云存储的,实际上这篇文章是在对基于阿里云的云存储上的POLARDB 数据库在使用云存储的一些问题和优化进行了阐明,整体的文章大致是这样一个脉络。



首先他提出云存储是构建云原生数据库的首选存储,云存储是弹性的分布式块存储,并且云存储提供了Qos,大容量,弹性和按需付费的模式的可行性。

当然这篇文章也没有完全说使用了云存储是好的,数据库使用云存储也面临着挑战,比如

1访问云存储服务时,比本地的存储I/O延迟高

2 聚合的I/O带宽并未有效被利用,存在浪费

3 传统的数据库产品在使用云存储时的问题,因为这些数据没有做好准备且重新设计内部的原理,来去使用新一代的云存储设备。

4 云上的数据库使用I/O隔离性的问题。

为此阿里云引入了CloudJump,对这些问题进行解决,比如他们提出了线程并行,任务并行,预取数据,锁的颗粒度更小,或采用了无锁结构的问题,并且分布式节点之间的访问是分散访问,且绕过了缓存和调度优先级等。

同时文章还提出了一些我们之前并未遇到的观念,如一张表10T 到20TB,在CloudJump的模式下,是有可能支持的,至少存储不会拖后腿,他们可以将页面放置在存储中的多个节点上,利用CloudJump优化I/O,且分散他。用户对于大表在云上的使用将获益,有效的提高数据表的查询性能。

文章还指出PolarDB可以向一些数据库中不愿意面对的大属性的字段分开存储在存储的不同位置上,比如你的表里面突然有一个大JSON 的字段的情况下。

最终还回应了我们非常担心的问题,比如由于存储超卖导致的性能问题,而这里CloudJump的文章提出,他们已经将用户的文件都打散,用户的表可能都不在一个存储上,通过分散一个数据库中的表,来完成性能的均衡,保证客户不会遇到性能的瓶颈。


好了说完这么多,还没有回答人家的问题。

本地存储在数据库上的应用的优势有什么

数据安全性高:本地存储中,用户可以完全掌控数据的存储方式、访问权限以及信息安全协议,自行决定如何保护数据免受未经授权的访问。

传输读取速度快:由于数据直接存储在本地设备上,访问存储在本地存储上的数据比上传和下载到云端的速度要快得多,这对于需要快速获取和处理数据的数据库应用场景非常关键,例如实时交易系统、高频数据处理等,快速的数据访问能够提升系统的响应速度和性能。

成本较高:购买本地存储设备(如服务器、硬盘等)往往需要较高的前期投入,同时还需要考虑后续的维护、升级以及电力等运营成本。对于一些预算有限的企业或项目来说,这可能是一个较大的负担。

存储容量扩展受限:本地存储容量受到硬件设备本身的限制。当数据库的数据量不断增长时,需要购买额外的硬盘或服务器来扩展存储容量,这不仅涉及硬件采购成本,还可能需要停机进行设备安装和配置,影响数据库的正常运行。 管理复杂性:企业需要自行负责本地存储设备的管理和维护,包括数据备份、文件版本管理等操作。

这需要具备一定的专业技术知识和人力投入,增加了管理的复杂性和工作量。


云存储在数据库上的应用 优势

易于扩展:云存储提供了灵活的存储空间,数据库管理员可以根据数据量的增长或业务需求的变化,轻松地随时扩展存储容量,而无需担心硬件容量不足的问题。这种弹性扩展能力使得企业在面对业务波动或数据增长时,能够更加灵活地应对,避免因存储限制而影响业务发展。

成本效益:云存储采用按需付费的模式,企业只需根据实际使用的存储量和时长支付费用。与本地存储相比,无需一次性投入大量资金购买硬件设备,降低了前期资本支出。

云存储服务提供商通常负责存储设备的维护、升级和管理,企业可以节省相应的人力和物力成本。

管理方便:云存储服务提供商承担了大部分存储管理任务,如硬件维护、数据中心管理、软件更新等。数据库管理员无需过多关注底层存储基础设施的细节,能够将更多精力集中在数据库本身的管理和优化上,提高工作效率。

多租户与安全性:云存储提供广泛的受控和受限访问策略,在数据动态和静态时均提供内置加密功能,能够有效保护数据库数据的安全性。多租户环境下,不同用户的数据相互隔离,确保数据的隐私性和安全性。

平稳顺利的数据迁移:云存储可以消除因技术更新周期导致的破坏性数据迁移问题。当云存储服务提供商进行技术升级或更新时,企业可以在不中断数据库服务的情况下,平滑地过渡到新的存储环境,使技术更新成为一项相对简单的在线任务。 挑战与考虑因素 定价复杂性:云存储的定价模型可能较为复杂,涉及到存储容量、数据传输量、访问频率等多个因素。企业需要仔细评估和理解定价结构,以便准确进行预算编制和成本预测。

安全与隐私担忧:尽管云存储服务提供商采取了一系列安全措施,但将企业的关键数据库信息委托给第三方公共云服务提供商,仍然存在一定的安全和隐私风险。

企业需要对云存储提供商的安全资质、数据保护措施进行充分评估,并采取相应的加密、访问控制等措施来增强数据安全性。


那么上面这段总结了两个产品的优缺点:
如果我是本地存储设备商,我会这么讲
1 云上的云存储对于传统的数据库产品的性能并没有提高,且可能还会降低,因为从阿里云的论文上看,使用云存储的数据库产品,应该根据云存储设备的方式来进行优化,否则无法提现云存储的性能优势,反而拉胯。
2 存储的安全性和访问的速度与本地存储不是一个级别的,所以对一些核心业务,且在线下的需要有本地存储的支持。
3 云备份中,我看可以逆向思维,他可以云备份,我们对于云上的核心数据,也可以搞本地备份。
4 数据的安全问题,对于数据的安全问题,这对于本地存储是一个强项,至于怎么宣传就不用我多说了。
最终我想给本地存储设备商的小建议
1 市场一定有,不要放弃,不要一看新产品来了,就压到自己的气势
2 错峰打击,一个产品必然有他自己的弱点,你攻击他的点要准,且这个点客户愿意为其买单。
3 多学习,开拓思路,知己知彼,他怎么样,你怎么样,都要清楚,然后寻找你的定向客户。
最后一句话,没有做不了的买卖,只有不了解对手,且不懂自己的经销商,加油。

临时工访谈系列与非数据库文章
一年又一年,成了老梆子,别回头,往前看!
临时工说: 实际实例揭穿AI, 上云就不用DBA的谎言
临时工说:DBA 7*24H 给2万的工作,到底去不去?
国内最大IT服务公司-招聘DBA “招聘广告”的变化--分析与探讨
临时工说:  网友问35岁就淘汰,我刚入行DBA 怎么办?

PolarDB 相关文章


PolarDB-MySQL 并行技巧与内幕--(怎么薅羊毛)

PolarDB 并行黑科技--从百套MySQL撤下说起 (感谢8018个粉丝的支持)

PolarDB 杀疯了,Everywhere Everytime Everydatabase on Serverless

POLARDB  从一个使用者的角度来说说,POALRDB 怎么打败 MYSQL RDS

PolarDB 最近遇到加字段加不上的问题 与 使用PolarDB 三年感受与恳谈

PolarDB 从节点Down机后,引起的主从节点强一致的争论

PolarDB serverless 真敢搞,你出圈了你知道吗!!!!

PolarDB VS PostgreSQL  "云上"性能与成本评测 -- PolarDB 比PostgreSQL 好?

临时工访谈:PolarDB  Serverless  发现“大”问题了  之 灭妖记 续集

临时工访谈:庙小妖风大-PolarDB 组团镇妖 之 他们是第一

PolarDB for PostgreSQL  有意思吗?有意思呀
PolarDB  Serverless POC测试中有没有坑与发现的疑问
临时工说:从人性的角度来分析为什么公司内MySQL 成为少数派,PolarDB 占领高处
POLARDB  到底打倒了谁  PPT 分享 (文字版)

POLARDB  -- Ausitndatabases 历年的文章集合

PolarDB for PostgreSQL  有意思吗?有意思呀

PolarDB  搞那么多复杂磁盘计费的东西,抽筋了吗?


OceanBase 相关文章


跟我学OceanBase4.0 --阅读白皮书 (旧的概念害死人呀,更新知识和理念)

聚焦SaaS类企业数据库选型(技术、成本、合规、地缘政治)

OceanBase 学习记录-- 建立MySQL租户,像用MySQL一样使用OB
OceanBase  学习记录 -- 安装简易环境
OceanBase  学习记录 --  开始入门
数据库最近第一比较多,OceanBase 定语加多了?
临时工访谈:OceanBase上海开大会,我们四个开小会 OB 国产数据库破局者
临时工说:OceanBase 到访,果然数据库的世界很卷,没边
数据库信息速递  阿里巴巴的分布式数据库OceanBase旨在进军中国以外的市场 (翻译)



PostgreSQL 相关文章



病毒攻击PostgreSQL暴力破解系统,防范加固系统方案(内附分析日志脚本)
PostgreSQL 远程管理越来越简单,6个自动化脚本开胃菜

PostgreSQL 稳定性平台 PG中文社区大会--杭州来去匆匆

PostgreSQL 如何通过工具来分析PG 内存泄露

PostgreSQL  分组查询可以不进行全表扫描吗?速度提高上千倍?

POSTGRESQL --Austindatabaes 历年文章整理

PostgreSQL  查询语句开发写不好是必然,不是PG的锅

PostgreSQL  字符集乌龙导致数据查询排序的问题,与 MySQL 稳定 "PG不稳定"
PostgreSQL  Patroni 3.0 新功能规划 2023年 纽约PG 大会 (音译)
PostgreSQL   玩PG我们是认真的,vacuum 稳定性平台我们有了
PostgreSQL DBA硬扛 垃圾 “开发”,“架构师”,滥用PG 你们滚出 !(附送定期清理连接脚本)

DBA 失职导致 PostgreSQL 日志疯涨



MongoDB 相关文章


MongoDB 使用网上妙招,直接DOWN机---清理表碎片导致的灾祸 (送书活动结束)

数据库 《三体》“二向箔”  思维限制 !8个公众号联合抽奖送书 建立数据库设计新思维

MongoDB  是外星人,水瓶座,怎么和不按套路出牌的他沟通?

17000多张MongoDB表的锅 自动分析删除表数据难题--从头到尾的处理过程(文尾有MongoDB开发规范)
MongoDB 插入更新数据慢,开发问哪的问题?附带解决方案和脚本
MongoDB 不是软柿子,想替换就替换
MongoDB  挑战传统数据库聚合查询,干不死他们的MongoDB 2023纽约 MongoDB 大会 -- 我们怎么做的新一代引擎 SBE Mongodb 7.0双擎力量(译)
MongoDB 2023年度纽约 MongoDB 年度大会话题 -- MongoDB 数据模式与建模
MongoDB  双机热备那篇文章是  “毒”
MongoDB   会丢数据吗?在次补刀MongoDB  双机热备
MONGODB  ---- Austindatabases  历年文章合集


MySQL相关文章


MySQL timeout 参数可以让事务不完全回滚
"DBA 是个der" 吵出MySQL主键问题多种解决方案

MySQL 让你还用5.7 出事了吧,用着用着5.7崩了

MySQL 的SQL引擎很差吗?由一个同学提出问题引出的实验
用MySql不是MySQL, 不用MySQL都是MySQL 横批 哼哼哈哈啊啊
MYSQL  --Austindatabases 历年文章合集

阿里云系列

阿里云数据库产品权限设计缺陷 ,六个场景诠释问题,你可以做的更好?

阿里云数据库--市场营销聊胜于无--3年的使用感受与反馈系列

阿里云数据库产品 对内对外一样的卷 --3年阿里云数据库的使用感受与反馈系列

阿里云数据库使用感受--客户服务问题深入剖析与什么是廉价客户 --3年的使用感受与反馈系列

阿里云数据库使用感受--操作界面有点眼花缭乱 --3年的使用感受与反馈系列



SQL SERVER 系列

SQL SERVER 如何实现UNDO REDO  和PostgreSQL 有近亲关系吗
SQL SERVER 2022 针对缓存扫描和Query Store 的进步,可以考虑进行版本升级

截止今天共发布



AustinDatabases
PostgreSQL ACE ,PolarDB 3年, OceanBase 极速学习ING, MongoDB 8年经验, MySQL OCP, SQL SERVER, MCITP,REDIS ,做一个合格的数据库架构师
 最新文章