DBA很忙:MySQL性能优化及自动化运维实践 - 下篇

发布时间:2018-08-15 编辑:小张个人博客 查看次数:2889

自动化运维实践

所谓自动化运维实践就相当于是给我们 DBA 提供小工具或者是小帮手,帮助我们打开,而不是纠缠着我们。

我们移动云的体量就是几百上千台数据库的体量,如果我们面对几台或者是十几台的数据库的时候,有没有这个自动化其实无所谓,因为你做自动化反而更加麻烦。

如果你已经有大的量的时候就要平台化,在自动化的数据库上进行拓展。以下是我们在自动化运维的实践经验。

标准化安装部署

标准化安装部署

我们的目录方案,版本以及部署流程有标准文档去遵循。比如说一次部署打包多次应用,我们需要在一个节点上把标准包打包起来就一步完成了,那这个标准化的安装部署就给后面自动化的安装部署打了一定的基础。

自动化数据备份

数据备份是我们 DBA 非常重要的一个工作。所以我们公司也是建立合理有效以及规范的自动化备份的规范。

比方说我们的常规备份,我们是每周一次全备,变更前后,有一个业务变更了,在这之前要做一个全备,万一业务变更哪里出现问题我就可以及时回退。

这个是自动化使用的场景:我们使用的是 innobackup 工具+自动化备份脚本调用+Crontab 定时来做。

自动化日常监控

自动化日常监控

监控是 DBA 的第三只眼睛,如果建立实时有效的监控非常有效。我们的监控是采用 Zabbix 监控工具。

像确定一些告警阈值这种,一旦超过了这个阈值就可以给我们 DBA 发送短信和邮件,这就是自动化的日常监控。

自动化深度巡检

这个就是补充了监控所不能达到的地方。比方说如果我们需要扫描或者是看一些大表的情况或者是看一些没有建索引表的情况,它的输出很复杂,是一张表或者是几张表,所以我们就需要深度的巡检来完成。

深度的巡检我们公司也是采用开发巡检脚本,通过 Ansible 统一推送,巡检报告自动生成。也就是说可以很明确的呈现出这个巡检的结果供 DBA 去看和去检查。

自动化故障切换

自动化故障切换

自动化故障切换是发生在单节点发生故障。比如说变更操作,一些 Keepalive 部署配置,切换脚本,VRRP 协议来实现的。

也是通过编写一些脚本,那这个脚本可能会定期去检查我们的数据库节点的运行状况。

比如说这个 VIP 有没有在这个节点或者是进程在不在?一旦发生异常就会自动切换这个节点。

自动化节点扩容

当发生单节点故障的时候,我们需要部署一个新的节点的时候就需要启动自动化的节点扩容,编写脚本来做。

自动化安全审计

自动化安全审计

这就是异常访问,异常操作可审计追溯。部署安全审计插件,这个安全审计的插件+启用安全审计日志+日志自动化或者是分析提炼。


所以要不要开启这个插件根据各位公司对于安全审计方面的要求以及对于性能的要求从两者取一个平衡。

因为我们还是很看中这个安全事件,所以我们开启了这个安全审计插件,开启这个插件以后还需要配置文件做一个配置。

以什么样的方式存或者是多大?这些参数都可以在配置文件里面进行配置。

自动化密码审计

这个自动化密码审计也是一个插件,就是我们安装了强密码审查的日志,这个插件的工作原理就是设置了规则,我们需要日志要多少位或者是多少位的大小写或者是特殊字符的要求。

我们设置密码的时候必须符合这个强密码验证的要求。这个也是进行实时校验的。

也就是说我们当设一个数据库用户的密码,如果不符合这个强密码的需求就不会给他通过,防止一些比较容易破解的弱密码。

自动化日志分析

自动化日志分析

我们的日志分析挺重要的,如果出现问题就需要这个日志分析,没有问题正常的时候也需要日志分析工具的。

因为它能够发生潜在的优化建议,我们采用一个 Percona 为工具 Pt-query-digest,我们只需要看 DBA 的慢日志又可以发现哪些内容存在问题。

自动化数据校验

我们通过自动化验校修复工具来做,也是设了 Crontab 的任务让它定期执行。

自动化数据清理

自动化数据清理

因为数据库每天每周都在备份,我们就需要机制定期清理备份文件。

我们也是采用脚本去开发和定时看,如果超过两个月的备份文件我们就把它删掉。如果文件都在两个月就不用管它。超过两个月就清除它。

自动化日志切分

如果数据库跑的时间比较长,慢日志或者是错误日志比较大,就需要定时检测日志文件,大于某值则自动切分,否则不处理。

以上就是我们在数据库运维的沉淀和积累。虽然不像腾讯或者是阿里那么大的体量和经验,但是以上是我们探索出来的一些经验,希望可以给各位带来启发或者是帮助。


出处:转载自「高效运维」微信公众号



出处:小张个人博客

网址:http://blog.023xs.cn/

您的支持是对博主最大的鼓励,感谢您的认真阅读。欢迎转载,但请保留该声明。

顶部

Copyright © 小张个人博客 All Rights Reserved 渝ICP备15006773号-1

联系方式:[email protected] | 本站文章仅供学习和参考

渝公网安备 50024102500267号