MySQL 线上日志库迁移实例
说说最近的一个案例吧，线上阿里云RDS上的一个游戏日志库最近出现了一点问题，随着游戏人数的增加，在线日志库的数据量越来越大，最新的日志库都已经到50G大小了，在线变更的时间非常长。
之前之所以没有发现，是因为之前一直没有进行过日志库的变更，但是随着业务的深入，需要增加一些游戏属性，要对之前的日志库进行变更，这样一来，长时间的维护窗口让业务方和DBA都望而却步，日志优化迫在眉睫。
首先看日志库的情况：
1、日志库中数据量大于5000w的大表有5张；
2、这5张表开量前每个月的数据量大概在2000w左右，开量后会更多；
3、有2个表的索引大小已经超过数据文件大小
询问了业务方和运营对这些表的要求，具体如下：
1、保留最近这3个月的数据，其他的数据可以进行流转，避免影响线上业务的性能。
2、3个月之前的数据流转到一个本地库中，可以支持查询即可，查询速度不能过于慢，分钟级别的可以接受。
3、日志库在迁移的过程中，能够容忍几分钟的表数据丢失，对数据的同步实时性要求不是很高
4、线上的日志库需要支持用户活跃度等统计
5、不希望执行分库分表，有很多查询近几个月的SQL操作，表之间存在一定的耦合性，分表之后不利于关联操作
基于上面的分析，结合实际情况，初步设想的方案是：
1、对线上数据库game_log中的表进行rename操作，然后将原来的表重新创建出来，这个过程中不是连续的，可能会丢失几秒钟的数据。具体的操作如下：
#第一步 rename table game_log.table to game_log_bak.table; #第二步，获取表结构，其中重要的是auto_increment的值， #保证后续导入三个月内数据的时候不会发生冲突 show create table game_log_bak.table\G #第三步 在game_log库中重新创建第二步的表结构
2、将rename过后的game_log_bak库中的数据流转到本地的离线数据库中，该数据库采用infobright存储引擎，这样能够支持离线数据的快速查询
3、备份并清理线上表3个月之外的数据，大概是40G，并将线上的game_log_bak数据库中3个月以内的数据（大概10G）重新灌入game_log数据库中，这样结构就变成了：
4、删除game_log_bak库，并搭建一个只读从库，实时的从主库上同步game_log库的信息，如下：
5、从本地的只读从库中，像本地的infobright数据库中同步数据，同步的方法可以选用dataX工具，像下面这样：
6、设置定时任务，按照一定的周期清理线上的过期数据，确保线上只保留最近3个月的数据，不会对rds的磁盘存储空间产生压力。
这个方法中，目前看来存在下面几个问题：
1、经常性的清理线上数据，这些数据占用的表空间不能被立即回收，可能会造成数据表的碎片问题。
2、后续如果游戏的量级上来之后，使用这个问题可能还是会有问题，届时可以适当调整日志表的清理周期，如果数据量过大，可以考虑其他的方案来处理。
回过头来分析，表的设计上还是存在一定的问题，日志表中记录的应该只是流水数据，尽量不能出现关联查询的情况，或者说可以提前评估数据量，然后使用季度表或者月表来处理这种的大量的日志情况，这样在清理和维护的时候可能就方便的多。
以上就是MySQL 线上日志库迁移实例的详细内容，更多关于MySQL 线上日志库迁移的资料请关注猪先飞其它相关文章！
相关文章
- 这篇文章主要介绍了MySQL性能监控软件Nagios的安装及配置教程,这里以CentOS操作系统为环境进行演示,需要的朋友可以参考下...2015-12-14
- 新版 Mysql 中加入了对 JSON Document 的支持，可以创建 JSON 类型的字段，并有一套函数支持对JSON的查询、修改等操作，下面就实际体验一下...2016-08-23
深入研究mysql中的varchar和limit(容易被忽略的知识)
为什么标题要起这个名字呢？commen sence指的是那些大家都应该知道的事情，但往往大家又会会略这些东西，或者对这些东西一知半解，今天我总结下自己在mysql中遇到的一些commen sense类型的问题。 ...2015-03-15- 这篇文章主要介绍了MySQL 字符串拆分操作(含分隔符的字符串截取)，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧...2021-02-22
- 一、先说一下为什么要分表：当一张的数据达到几百万时，你查询一次所花的时间会变多，如果有联合查询的话，有可能会死在那儿了。分表的目的就在于此，减小数据库的负担，缩短查询时间。根据个人经验，mysql执行一个sql的过程如下：1...2014-05-31
- 我们自己鼓捣mysql时，总免不了会遇到这个问题：插入中文字符出现乱码，虽然这是运维先给配好的环境，但是在自己机子上玩的时候咧，总得知道个一二吧，不然以后如何优雅的吹牛B。...2015-03-15
- 宿主机使用网线的时候，客户机在Bridged Adapter模式下，使用Atheros AR8131 PCI-E Gigabit Ethernet Controller上网没问题。 宿主机使用无线的时候，客户机在Bridged Adapter模式下，使用可选项里唯一一个WIFI选项，Microsoft Virtual Wifi Miniport Adapter也无法上网，故弃之。...2013-09-19
- 这几天在centos下装mysql，这里记录一下安装的过程，方便以后查阅Mysql5.5.37安装需要cmake，5.6版本开始都需要cmake来编译，5.5以后的版本应该也要装这个。安装cmake复制代码 代码如下: [root@local ~]# wget http://www.cm...2015-03-15
- 首先要声明一点，大部分情况下，修改MySQL密码是需要有mysql里的root权限的...2013-09-11
- 这篇文章主要介绍了node.js如何操作MySQL数据库，帮助大家更好的进行web开发，感兴趣的朋友可以了解下...2020-10-29
- MySQL命令行导出数据库： 1，进入MySQL目录下的bin文件夹：cd MySQL中到bin文件夹的目录 如我输入的命令行：cd C:/Program Files/MySQL/MySQL Server 4.1/bin (或者直接将windows的环境变量path中添加该目录) ...2013-09-26
- 一、连接Mysql格式： mysql -h主机地址 -u用户名 －p用户密码1、连接到本机上的MYSQL。首先打开DOS窗口，然后进入目录mysql/bin，再键入命令mysql -u root -p，回车后提示你输密码.注意用户名前可以有空格也可以没有空格，但是密...2015-11-08
- Navicat for MySQL注册码用来激活 Navicat for MySQL 软件，只要拥有 Navicat 注册码就能激活相应的 Navicat 产品。这篇文章主要介绍了Navicat for MySQL 11注册码\激活码汇总,需要的朋友可以参考下...2020-11-23
- 这篇文章主要介绍了mysql IS NULL使用索引案例讲解,本篇文章通过简要的案例,讲解了该项技术的了解与使用,以下就是详细内容,需要的朋友可以参考下...2021-08-14
- 一、准备编译环境，安装所需依赖包yum groupinstall 'Development' -y yum install openssl openssl-devel zlib zlib-devel -y yum install readline-devel pcre-devel ncurses-devel bison-devel cmake -y二、编译安...2015-10-21
- 这篇文章主要介绍了基于PostgreSQL和mysql数据类型对比兼容，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧...2020-12-25
Mysql中 show table status 获取表信息的方法
这篇文章主要介绍了Mysql中 show table status 获取表信息的方法的相关资料,需要的朋友可以参考下...2016-03-12- 这篇文章主要为大家分享了20分钟MySQL基础入门教程，快速掌握MySQL基础知识，真正了解MySQL，具有一定的参考价值，感兴趣的小伙伴们可以参考一下...2016-12-02
- 传统的关系数据库一般由数据库（database）、表（table）、记录（record）三个层次概念组成，MongoDB是由数据库（database）、集合（collection）、文档对象（document）三个层次组成。MongoDB对于关系型数据库里的表，但是集合中没有列、行和关...2013-09-11
- 这篇文章主要介绍了Delphi远程连接Mysql的实现方法,需要的朋友可以参考下...2020-06-30