责编：中文妹 | 来源：高效运维
故障是运维人员永远的痛。相信每一个运维人员的KPI中都有一项：可用性。可用性高就是不出故障，各个公司对可用性和故障评级的标准都不相同，但是避免故障的方法却是殊途同归。我们怎么避免故障，简单列举了以下几条，与大家共勉！1、变更要有回滚，在同样的环境测试过
运维最繁琐，最苦逼的地方，所有的变更都必须有回滚的办法，在同样的环境下测试过。没有做过的东西，总是会在你意想不到的地方给你一次痛击，在阿里巴巴的这么多年运维经验告诉我们，所有没有做过的变更，出错的概率最大。所以我们需要给变更以回滚的可能，在各个步骤可能出错的情况下，考虑回滚到最初状态。优秀的运维人员对不考虑回滚的的操作都是敬而远之的。从某种意义上来说，运维是一门经验的学科，是一门试错的学科。2、对破坏性的操作谨慎小心
破坏性的操作有哪些列？对数据库来说有：DROP Table， Drop database， truncate table， delete all data；这些操作做完了以后几乎无法考虑怎么把数据都回滚回去了。就算回滚，代价也是非常大的。你执行这样的语句非常简单，但是回滚恢复数据缺非常困难。linux的命令rm可以 -r(recursive) 递归的删除某一个目录，-f(force) 强制删除，但是你有没有删错过文件。我们遇到过一个文件名中末尾有空格的情况，而有的同事 rm -r 习惯性的会在文件名后面加 *，这样就成了rm -r aa *，所有当前目录的数据都被删除掉了！经过这次故障以后我们给 rm 做了别名：alias rm='rm -i --'这样在删除数据时，rm 命令会提示你，是否确认删除该文件。
同样的 cp 和 mv 也可以有同样的选项：
alias cp='cp -i --'alias mv='mv -i --'
3、设置好命令提示
让你时刻知道你在操作哪个数据库，让你知道你在哪个目录下。MySQL 字符客户端允许你设置提示符，默认的提示符就是一个光秃秃的 mysql >，为了让你清楚的知道你当前是以哪个用户名，哪个IP（可能是 localhost，127.0.0.1 或者具体的物理IP），你当前操作的是哪个 schema，以及当前的时间，你可以设置数据库的提示符为：prompt="\\u@\\h : \\d \\r:\\m:\\s> "
它可以直接写在my.cnf的[mysql]下，这样你每次连上MySQL就默认显示如下：root@127.0.0.1 : woqutech 08:24:36>
具体prompt可以设置哪些提示，你可以参考http://dev.mysql.com/doc/refman/5.6/en/mysql-commands.html 中的列表，而 Linux 命令提示符也允许你设置的。有两个地方可以设置：第一个：PS1。这个是每次 shell 提示你输入命令的信息，默认为：$ 或者 #，只会提示你是超级用户还是普通用户。有经验的运维者会设置:export PS1='\n\e[1;37m[\e[m\e[1;31m\u\e[m\e[1;31m@\e[m\e[1;31m\h\e[m \e[4m`pwd`\e[m\e[1;37m]\e[m\e[1;36m\e[m\n\$'
这样你就可以知道你当前的目录，登录的用户名和主机信息了，示例提示符如下：[root@woqu-lsv-01 /home/mysql]
你可以查看
http://www.cyberciti.biz/tips/howto-linux-unix-bash-shell-setup-prompt.html
获得具体的 PS1 设置颜色，设置各个提示内容的介绍。第二个提示符就是PROMPT_COMMAND。这个是设置你连到具体的数据库以后标签页标题上显示的内容，Windows 用户可能会用 securtCRT，Mac 用户可能会用 iTerm2，开多个标签页的话，如果每个标签页的标题上内容一样，我们切来切去就有可能在错误的标签页上做操作，设置了这个以后，这个问题概率就会小很多。比如我们的机器上设置为
PROMPT_COMMAND='echo -ne "\033]0;${USER}@${HOSTNAME%%.*}"; echo -ne "\007"'
对应的标签页。
4、备份并验证备份有效性
是人总会出错，是机器总可能会有突然崩溃的那一天。怎么办呢？我们需要准备备份。备份的学问很大。按照不同的纬度可以分为：冷备份和热备份；实时备份和非实时备份；物理备份和逻辑备份。互联网企业为了提供7*24小时不间断的服务，数据库就需要有实时热备份。在主库出现问题的情况下能够由备库提供服务。备库是否有效，数据是否一致，主库出现问题的时候怎么切换都需要运维人员认真考虑。是不是有了这些就够了呢？不行，应用程序也是人写的，曾经出现过程序一不小心 delete 语句没有带任何条件，导致一个表中所有的数据都被删除的惨状。所以你除了实时的备份，还需要有非实时的备份，在你的数据出现逻辑错误之后能够从备份数据中恢复出来。现在很多人在研究 MySQL 模仿 Oracle 的 flashback功能，利用 binlog 来恢复数据。
但是这样，binlog_format 必须设置为 row 并且对于 DDL 操作也无法回滚。它是为快速解决部分数据被错误删除的解决方案，但是无法代替非实时备份的作用。非实时备份有可以分为在线延时备份和离线备份。在线延时备份是搭建数据库的一定时间延迟的热备份，比如 MySQL 就可以搭建一个延迟一天的 slave，一直保持着备库与主库的延迟在一天。可以利用 pt-slave-delay 工具来实现这个功能。另外，离线备份是目前大家用的比较多的，可以利用 mysqldump 进行逻辑备份或者 xtrabackup 进行物理备份。为了空间的原因和快速恢复考虑，你还可以利用 xtrabackup 进行增量的物理备份。备份有了，是否就可以高枕无忧了？还是不行。你需要验证备份的有效性。没有一个备份能够保证它备份出来的数据能够 100% 恢复出正确的数据，特别是物理备份的概率相对来说，更低，xtrabackup 备份一个月总有那么几次来大姨妈，不能给你很好的服务。所以，备份并不只是备份，它还包括备份的验证，它如果不能恢复出正确的数据，就只是浪费空间而已。备份的验证最简单的就是找一个空闲的库，来恢复出来，mysql启动以后检查部分数据。如果不需要这么严谨，对于 xtrabackup 来说，你至少得验证它 --apply-log 能够恢复上去吧？同样，备库的数据一致性也需要经常检查一下，MySQL 的replication并不保证100%的数据一致性，你可以去翻翻 MySQL statement 复制的 bug 列表，有些数据在主备不同的环境上分别执行，数据就会不一样。可以考虑用 percona 的工具 pt-table-checksum 来检查主备不一致，用 pt-table-sync 来同步主备数据。5、对生产环境存有敬畏之心
这应该是运维者进入行业首先需要具备的素质。但是我们还是需要把它拿出来强调一下。有机会的话，你可以梳理一下：
- 你的生产环境上有哪些账户，这些账户是否都确实需要登录到机器上来？这些账户即包括 Linux 用户还包括数据库账户。
- 你的 root 用户是否开放给了某些用户，这些用户安全吗？
- 你的用户密码是否经常修改，是否加密不让具体的操作人员直接看到，密码强度时候足够，密码重试次数达到一定次数是否黑名单？
- 你的生产环境和线下环境是否隔离，数据库是否和外网隔离？
- 是否一些工作明明能够在开发库和测试库做，却被放到生产环境上去了？
- 是否有专门的人负责线上应用的发布，从而避免开发人员直接接触生产环境？
6、交接和休假最容易出故障，变更请谨慎
这个是经验之谈。我们在总结故障的情况时，发现在公司部门有变化时，工作交接（不管是休假、工作职责变化还是离职），故障的出现频率会比正常情况下多50%以上。有人说，这是因为机器或者应用是有感情的，舍不得离开的运维者。![]()
我们不谈感情，简单的理性分析一下。公司或者部门难免会做一些调整，变化是世界上唯一不变的事情。而运维人员是一线做事情的人，部门调整或者领导的更换可能导致工作的着重点不同，做事的方式和评测的标准变了，适应过程中难免会出现一些考虑不周到的地方，出故障也是情理之中了。而工作交接，对运维人员来说，其实是一个非常费时费力的事情，你需要把所有平常做的工作都梳理清楚，甚至包括你的一些经意不经意的操作习惯，这样的话，下一个人才可能接手得下来。比如：你可能认为备库正常情况下没有访问，于是让某些并不重要的任务（一个月一次抽取部分数据到线下测试？）直接连备机IP进行操作。下一个人接手，认为备机就是备机，操作起来不会有任何问题，结果下一次任务抽取就是一个故障出来了。再举一个我们遇到了事例吧：同事A出国休假了，休假期间估计联系不上，他留了文档，并告诫说某几个库和表是比较核心和容易出问题的，没有特殊情况最好等他回来再做变更。正好，休假期间，开发人员找到同事B，要求他重置一个字段的某一位（bit），并打包票说这个 bit 没有用，同事B拒绝，并背上了不配合的骂名。同事A回来吓了一身冷汗，原来这个字段已经被另外一个离职的开发使用了。所以，运维部门和运维人员对变化需要尽量放平心态；接手别人的工作要一而再，再而三的确认变更方案。请教人并不见得就是能力不行的表现；休假前最好各种可以做好的事情，最好能够准备一份文档，指明在什么情况下怎么做和联系哪些人。在别人放假的时候接手工作，“能拖则拖”，实在需要执行：必须不厌其烦的跟原运维者确认各个操作细节。7、搭建报警，及时获得出错信息
搭建性能监控，了解历史，获得趋势，预测未来。运维的最高境界不是故障来了，泰山崩于前而不惊，苍老师勾引你而抗日；而是没有故障，让故障消失在萌芽之中。请给那些默默无闻，每天想着我们的系统还存在哪些隐患，怎么解决，怎么及早发现的运维人员鼓掌。![]()
他们是最可爱的人。而他们赖以生存的工具就是报警和监控。Oracle发展了这么多年，awr 和相关的性能参数都相对比较全；MySQL 现在也已经迎头赶上，配套的工具越来越多。报警可以让你及时知道系统出现了什么异常。比如 slave io 报警，在数据库 replication 异常的时候就会提醒你：IO线程出现了问题，可能是网络问题，主数据库问题等，slave sql 报警会提醒你 replication 的 SQL 线程出现了问题，可能是主备不一致，slave 被停掉了，存储过程在备机有异常或者其他问题。这样你收到报警就可以及时跟进，而不至于主备长时间不一致，主库坏掉了想要切换到备库的时候却不能切换。性能监控可以让你了解系统的历史性能信息。分析故障发生时的各种现象，确认故障的真正原因；了解变化趋势，发现故障的苗头，及早优化和调整。比如你如果使用了PCI-E 的 Flash 卡，你可以监控logical_written_bytes，logical_read_bytes，physical_written_bytes，physical_read_bytes以便获得 flash 卡的每秒的逻辑读写和物理读写字节数。对于MySQL你可以监控Com_delete+Com_delete_multi, Com_insert+Com_insert_select，Com_update+Com_update_multi，Com_select来获得每秒的 MySQL DML 删除，插入，更新和查询的次数。报警和性能监控其实不不完全独立的，很多性能的监控项也可以报警出来。比如 linux 的 iostat 中的 await_time 可以作为性能监控采集起来获得系统IO响应时间的变化曲线，当该值达到20以上的时候，也可以报警出来，让运维人员跟进是磁盘阵列中坏了一块，还是异常的数据拷贝影响了系统的IO性能等。8、自动切换需谨慎
现在数据库的HA很多都是进行自动切换的，这样运维人员深夜起来手工切换到备库的机会就会少很多。切换也会快速很多。但是，它带来的副作用也不容忽视。现在业界使用的HA软件非常多，heartbeat 由于很多SA兼作DBA的运维比较熟悉，在 MySQL 自动切换也是不少的。一般来说，它会通过 mysqladmin ping 来探测MySQL 是否存活，如果发现异常，那么他就会切换 VIP 和 MySQL 资源到备库。
但是此时备库的数据延迟是否为0，主库 crash 之后 binlog 的数据是否全部都同步到备库上去了，备库的 read_only 是否关闭，这些 heartbeat 都不管。我们想象一下，主库上应用提交了一笔订单，结果发生了切换，这笔订单没有同步到备库上，卖家也就损失了一个销售单，对客户，对公司都是非常大的影响。
当然，自动切换也不能全盘否定，它能够更快速的将应用切换到新的热备份备库上，应用的不可用时间大大缩短。只是我们要好好利用这一把双刃剑，仔细评估它的影响，降低或者去除副作用，让它为我们服务。
9、仔细一点，偏执一点，检查，再检查
之前我跟一个资深的运维学习线上操作的时候，觉得这家伙有点变态，他在做一个变更的时候，会先提前一两周发送邮件并电话手机的通知相关人；在测试机上写好脚本，召集大家 review 操作步骤和脚本；测试完成以后拷贝到生产环境；登录对应机器，“打开，关闭，打开，关闭”该脚本；跟相关人员再次确认执行的操作，顺序，时间点，可能的影响和回滚是否都准备好了；执行前还要退出这个机器，然后再登录进去，“打开，关闭”脚本；最后才在后台运行脚本，在另外一个窗口登录着，随时ps和查看结果输出。期间姿势端正，呼吸急促而均匀，眼神凝重。操作的人不觉得累，倒是一边学习的人很累。
当我做到一定程度，我也开始这样了。医学上，这种好像叫做强迫症。唉，提前通知会让大家都有准备，也避免了临时相关人员过来说这个操作和其他操作有依赖需要调整操作时间的问题；召集大家 review 步骤和脚本是为了让大家一起来看看整个过程中还有哪些依赖没有考虑到或者哪些细节没有注意到，三个臭皮匠顶一个诸葛亮在运维来说是金科玉律；“打开，关闭，打开，关闭”是为了一再确认脚本拷贝过来是否正确，目录时候正确，思考在测试环境运行和在生产环境运行有什么不一样的；退出再登录机器是为了确认我登录的机器确实没有错；在后台运行是担心网络突然中断，我的脚本运行到一半怎么办；调整呼吸和端正姿势是为了对这个操作的敬重，对自己工作和运维工作的尊重。以 MySQL 使用 flash 卡为例吧。flash 算是一个比较新的事务，提供的IO比普通磁盘是几个数量级的提升。要想在生产环境使用，首先我们需要对他进行详尽的评估和破坏性测试，设置各种参数，考虑他们在各种场景下使用的配置；24小时不间断的进行半个月读写操作，中途突然掉电；高并发，高吞吐量下的测试；温度湿度极限测试；预留空间释放测试等等。然后我们会尝试在测试库上部署试用，收集和修改各个配置已达到最稳定，最高性能的配置；运行稳定以后我们才考虑在线上备库使用，并且主备要求异构；适当的时机切换为使用新的 flahs 卡为主库，万一出现了问题，还可以切换回原主机。这里也跟大家简单介绍一下 screen 命令，这个命令会在服务器段开启一个 session，就算你的网络断掉了，你的脚本也会自动在后台运行。screen -S woqutech 可以开启一个 woqutech 命令的后台 session；如果你的网络断掉了，你可以用screen -S woqutech 连上之前的 session 继续进行操作。IBM的文档库中有一个非常靠谱的文档：
http://www.ibm.com/developerworks/cn/linux/l-cn-screen/。
10、简单即是美
最后一条有点禅的意境了。它和 Unix 思想不谋而合。我们总是面临着各种诱惑：新的系统架构，新的更智能的命令和工具，最新的硬件平台，功能更全的HA软件等。他们总是以各种各样的方式吸引我们，most exciting，unbelievable，让你欲罢不能。你可以在线下安装，测试，怎么搞都行。但是如果想要在生产环境下使用起来，那就得经过非常详细，非常漫长，各种方式验证其稳定性的过程。
能够使用系统内置命令的话，就不用考虑其他要专门下载安装的软件了；脚本本身就能完成的功能，就没有必要专门找一个功能丰富的软件来做；Linux 本身自带的字符界面比那些复杂的图形界面要简洁方便；MySQL 的一些分区，生僻函数，没有必要的话不要使用。
你还有什么想要补充的吗？
上周，又劝退十几个了。。。
ChatGPT 4.0 国内直接用 ！！！
最后给大家推荐一个ChatGPT 4.0国内网站，是我们团队一直在使用的，我们对接是OpenAI官网的账号，给大家打造了一个一模一样ChatGPT，很多粉丝朋友现在也都通过我拿这种号，价格不贵，关键还有售后。
一句话说明：用官方一半价格的钱，一句话说明:用跟官方 ChatGPT4.0 一模一样功能，无需魔法，无视封号，不必担心次数不够。
最大优势：可实现会话隔离！突破限制：官方限制每个账号三小时可使用40次4.0本网站可实现次数上限之后，手动切换下一个未使用的账号【相当于一个4.0帐号，同享受一百个账号轮换使用权限】
![]()
为了跟上AI时代我干了一件事儿，我创建了一个知识星球社群：ChartGPT与副业。想带着大家一起探索ChatGPT和新的AI时代。
有很多小伙伴搞不定ChatGPT账号，于是我们决定，凡是这三天之内加入ChatPGT的小伙伴，我们直接送一个正常可用的永久ChatGPT独立账户。
不光是增长速度最快，我们的星球品质也绝对经得起考验，短短一个月时间，我们的课程团队发布了8个专栏、18个副业项目：
![]()
简单说下这个星球能给大家提供什么：
1、不断分享如何使用ChatGPT来完成各种任务，让你更高效地使用ChatGPT，以及副业思考、变现思路、创业案例、落地案例分享。
2、分享ChatGPT的使用方法、最新资讯、商业价值。
3、探讨未来关于ChatGPT的机遇，共同成长。
4、帮助大家解决ChatGPT遇到的问题。
5、提供一整年的售后服务，一起搞副业
星球福利：
1、加入星球4天后，就送ChatGPT独立账号。
2、邀请你加入ChatGPT会员交流群。
3、赠送一份完整的ChatGPT手册和66个ChatGPT副业赚钱手册。
其它福利还在筹划中... 不过，我给你大家保证，加入星球后，收获的价值会远远大于今天加入的门票费用 ！
本星球第一期原价399，目前属于试运营，早鸟价149，每超过50人涨价10元，星球马上要来一波大的涨价，如果你还在犹豫，可能最后就要以更高价格加入了。。
早就是优势。建议大家尽早以便宜的价格加入！
声明：本文部分素材转载自互联网，如有侵权立即删除 。
往期精彩
喜欢本文的朋友们，欢迎长按下图，关注订阅号Linux中文社区
收看更多精彩内容
