优质博文:IT-BLOG-CN
一、binlog
binlog
记录数据库表结构和表数据变更,比如update/delete/insert/truncate/create
,它不会记录select
。存储着每条变更的SQL
语句和XID
事务Id
等等。binlog
日志文件如下:
[root@192.168.10.11]# mysqlbinlog mysql-binlog.0000012..........# at 523# 168654 20:22:43 server id 1 end_log_pos 843 Query thread_id=3 exec_time=0 error_code=0SET TIMESTAMP=156521934/*!*/;INSERT INTO student('name','age','sex') VALUES('ZZX',20,'1'); # 执行的SQL语句/*!*/;# at 669#168654 20:22:45 server id 1 end_log_pos 876 Xid = 12 #执行的时间和事务ID
主要有两个作用:复制和恢复数据
【1】MySQL
架构为了高可用性都是一主多从,从服务器需要与主服务器保持数据一致,这就是通过binlog
进行复制;
【2】数据库的数据如果被误删,可以通过binlog
数据进行恢复。
因为
binlog
记录了数据库表的逻辑变更,所以可以用binlog
进行主从复制和恢复数据。
二、redo log
MySQL
执行SQL
修改语句时,肯定是先把这条记录查出来,然后再将这条进行进行修改。因为Mysql
的基本存储结构是页,记录都存在页里边,所以MySQL
是先把这条记录所在的页找到,然后把该页加载到内存中,将对应记录进行修改。现在就可能存在一个问题:如果在内存中把数据改了,还没来得及落磁盘,而此时的数据库挂了,导致这次修改丢失了怎么办?
如果每个请求都需要将数据立马同步到磁盘,那速度会很慢,MySQL
可能也顶不住。所以MySQL
引入了redo log
,内存写完了,然后会写一份redo log
,这份redo log
记载着这次在某个页上做了什么修改。
写redo log
的时候,也会有buffer
,是先写buffer
,再真正落到磁盘中的。至于从buffer
什么时候落磁盘,会有配置供我们配置。
写redo log
也是需要写磁盘的,但它的好处就是顺序IO
(我们都知道顺序IO
比随机IO
快非常多)。
所以,redo log
的存在为了:当我们修改的时候,写完内存了,但数据还没真正写到磁盘的时候。此时我们的数据库挂了,我们可以根据redo log
来对数据进行恢复。因为redo log
是顺序IO
,所以写入的速度很快,并且redo log
记载的是物理变化(x页做了y修改),文件的体积很小,恢复速度很快。
三、binlog与redolog的区别
两个日志较为相似,这里总结下两者的主要区别:
【1】存储内容不同: binlog
记载的是update/delete/insert
这样的SQL
语句,而redo log
记载的是物理修改的内容(x页修改了y)。redo log
记录的是数据的物理变化,binlog
记录的是数据的逻辑变化。
【2】功能: redo log
的作用是为持久化而生的。写完内存,如果数据库挂了,那我们可以通过redo log
来恢复内存还没来得及刷到磁盘的数据,将redo log
加载到内存里边,那内存就能恢复到挂掉之前的数据了。binlog
的作用是复制和恢复而生的。主从服务器需要保持数据的一致性,通过binlog
来同步数据。如果整个数据库的数据都被删除了,binlog
存储着所有的数据变更情况,那么可以通过binlog
来对数据进行恢复。
如果整个数据库的数据都被删除了,那我可以用redo log
的记录来恢复吗?
不能,因为功能的不同,redo log 存储的是物理数据的变更,如果我们内存的数据已经刷到了磁盘了,那redo log的数据就无效了。所以redo log不会存储着历史所有数据的变更,文件的内容会被覆盖的。
【3】写入细节不同: redo log
是MySQL
的InnoDB
引擎所产生的。binlog
无论MySQL
任何引擎都会有的。InnoDB
是有事务的,事务的四大特性之一:持久性就是靠redo log
来实现的(如果写入内存成功,但数据还没真正刷到磁盘,如果此时的数据库挂了,我们可以靠redo log
来恢复内存的数据,这就实现了持久性)。
上面也提到,在修改的数据的时候,binlog
会记载着变更的类容,redo log
也会记载着变更的内容。(只不过一个存储的是物理变化,一个存储的是逻辑变化)。那他们的写入顺序是什么样的呢?
redo log
事务开始的时候,就开始记录每次的变更信息,而binlog
是在事务提交的时候才记录。
于是新有的问题又出现了:我写其中的某一个log
,失败了,那会怎么办?现在我们的前提是先写redo log
,再写binlog
,我们来看看:
■ 如果写redo log
失败了,那我们就认为这次事务有问题,回滚,不再写binlog
。
■ 如果写redo log
成功了,写binlog
,写binlog
写一半了,但失败了怎么办?我们还是会对这次的事务回滚,将无效的binlog
给删除(因为binlog
会影响从库的数据,所以需要做删除操作)
■ 如果写redo log
和binlog
都成功了,那这次算是事务才会真正成功。
简单来说:MySQL
需要保证redo log
和binlog
的数据是一致的,如果不一致,那就乱套了。
■ 如果redo log
写失败了,而binlog
写成功了。那假设内存的数据还没来得及落磁盘,机器就挂掉了。那主从服务器的数据就不一致了。(从服务器通过binlog
得到最新的数据,而主服务器由于redo log
没有记载,没法恢复数据)
■ 如果redo log
写成功了,而binlog
写失败了。那从服务器就拿不到最新的数据了。
MySQL
通过两阶段提交来保证redo log
和binlog
的数据是一致的。
阶段1:InnoDB redo log
写盘,InnoDB
事务进入prepare
状态
阶段2:binlog
写盘,InooDB
事务进入commit
状态
每个事务binlog
的末尾,会记录一个XID event
,标志着事务是否提交成功,也就是说,恢复过程中,binlog
最后一个XID event
之后的内容都应该被purge
。
如果binlog
没有正常关闭,mysql server
可能crash
过,我们需要调用MYSQL_BIN_LOG::recover:
找到最后一个XID
完成最后一次事务的两阶段提交InnoDB commit
。因此,需要遍历binlog
文件,找到最后一个合法event
集合,并purge
无效binlog
四、relay-log
从服务器I/O
线程将主服务器的二进制日志读取过来记录到从服务器本地文件,然后从服务器SQL
线程会读取relay-log
日志的内容并应用到从服务器,从而使从服务器和主服务器的数据保持一致
show variables like '%relay%'; #结果+---------------------------+----------------------------------+| Variable_name | Value |+---------------------------+----------------------------------+| max_relay_log_size | 0 || relay_log | relay-mysql || relay_log_basename | /var/lib/mysql/relay-mysql || relay_log_index | /var/lib/mysql/relay-mysql.index || relay_log_info_file | relay-log.info || relay_log_info_repository | FILE || relay_log_purge | ON || relay_log_recovery | ON || relay_log_space_limit | 0 || sync_relay_log | 10000 || sync_relay_log_info | 10000 |+---------------------------+----------------------------------+
max_relay_log_size
:relay log
允许的最大值,如果该值为0
,则默认值为max_binlog_size (1G)
。如果不为0
,则max_relay_log_size
则为最大的relay_log
文件大小;
relay_log
: 定义relay_log
的位置和名称,如果值为空,则默认位置在数据文件的目录;
relay_log_index
:定义relay_log
索引的位置和名称,记录有几个relay_log
文件,默认为2
个
cat /var/lib/mysql/relay-mysql.index #结果./relay-mysql.000241./relay-mysql.000242
relay_log_info_file
:定义relay-log.info
的位置和名称。relay-log.info
记录master
主库的binary_log
的恢复位置和从库relay_log
的位置;
[root@localhost ~]# cat /var/lib/mysql/relay-log.info #结果7./relay-mysql.00024219421766mysql-bin.00009434300252001
relay_log_purge
:是否自动清空中继日志,默认值为1(启用);
relay_log_recovery
:
当slave
从库宕机后,假如relay-log
损坏了,导致一部分中继日志没有处理,则自动放弃所有未执行的relay-log
,并且重新从master
上获取日志,这样就保证了relay-log
的完整性。默认情况下该功能是关闭的,将relay_log_recovery
的值设置为1
时,可在slave
从库上开启该功能,建议开启;
sync_relay_log
:当设置为1
时,slave
的I/O
线程每次接收到master
发送过来的binlog
日志都要写入系统缓冲区,然后刷入relay log
中继日志里,这样是最安全的,因为在崩溃的时候,你最多会丢失一个事务,但会造成磁盘的大量I/O
。当设置为0
时,并不是马上就刷入中继日志里,而是由操作系统决定何时来写入,虽然安全性降低了,但减少了大量的磁盘I/O
操作。这个值默认是0
,可动态修改;
sync_relay_log_info
:这个参数和sync_relay_log
参数一样。
五、undo log
undo log
主要有两个作用:回滚和多版本控制MVCC
在数据修改的时候,不仅记录了redo log
,还记录undo log
,如果因为某些原因导致事务失败或回滚了,可以用undo log
进行回滚
undo log
主要存储的也是逻辑日志,比如我们要insert
一条数据了,那undo log
会记录的一条对应的delete
日志。我们要update
一条记录时,它会记录一条对应相反的update
记录。
这也应该容易理解,毕竟回滚嘛,跟需要修改的操作相反就好,这样就能达到回滚的目的。因为支持回滚操作,所以我们就能保证:“一个事务包含多个操作,这些操作要么全部执行,要么全都不执行”。【原子性】
因为undo log
存储着修改之前的数据,相当于一个前版本,MVCC
实现的是读写不阻塞,读的时候只要返回前一个版本的数据就行了。