percona-toolkit 主从工具 master-slave

复制类	pt-heartbeat	监控mysql复制延迟
	pt-slave-delay	设定从落后主的时间
	pt-slave-find	查找和打印所有mysql复制层级关系
	pt-slave-restart	监控salve错误，并尝试重启salve
	pt-table-checksum	校验主从复制一致性
	pt-table-sync	高效同步表数据

1. pt-heartbeat

用于监控主从延迟的工具

1.1 pt-heartbeat 原理

主库创建一张heartbeat表，表中有个时间戳字段。主库上pt-heartbeat的update线程会在指定时间间隔更新时间戳。
从库上的pt-heartbeat的monitor线程会检查复制的心跳记录，这个记录就是主库修改的时间戳。然后和当前系统时间进行对比，得出时间上的差异，差异值就是延迟的时间大小。由于heartbeat表中有server_id字段，在监控某个从库的延迟时指定参考主库的server_id即可。

1.2 pt-heartbeat 主要参数介绍

注意：需要指定的参数至少有 –stop，–update，–monitor，–check。
其中–update，–monitor和–check是互斥的，–daemonize和–check也是互斥。`–ask-pass`:隐式输入MySQL密码`–charset`:字符集设置`–check`:检查从的延迟，检查一次就退出，除非指定了–recurse会递归的检查所有的从服务器。`–check-read-only`:如果从服务器开启了只读模式，该工具会跳过任何插入。`–create-table`:在主上创建心跳监控的表，如果该表不存在。可以自己建立，建议存储引擎改成memory。通过更新该表知道主从延迟的差距。CREATE TABLE heartbeat (
ts                    varchar(26) NOT NULL,
server_id             int unsigned NOT NULL PRIMARY KEY,
file                  varchar(255) DEFAULT NULL,    — SHOW MASTER STATUS
position              bigint unsigned DEFAULT NULL, — SHOW MASTER STATUS
relay_master_log_file varchar(255) DEFAULT NULL,    — SHOW SLAVE STATUS
exec_master_log_pos   bigint unsigned DEFAULT NULL — SHOW SLAVE STATUS
);
heratbeat表一直在更改ts和position,而ts是我们检查复制延迟的关键。`–daemonize`:执行时，放入到后台执行`–user | -u`:连接数据库的帐号`–database | -D`:连接数据库的名称`–host|-h`:连接的数据库地址`–password | -p`:连接数据库的密码`–port | -P`:连接数据库的端口`–socket | -S`:连接数据库的套接字文件`–file 【–file=output.txt】`:打印–monitor最新的记录到指定的文件，很好的防止满屏幕都是数据的烦恼。`–frames 【–frames=1m,2m,3m】`:在–monitor里输出的[]里的记录段，默认是1m,5m,15m。可以指定1个，如：–frames=1s，多个用逗号隔开。可用单位有秒（s）、分钟（m）、小时（h）、天（d）。`–interval`:检查、更新的间隔时间。默认是见是1s。最小的单位是0.01s，最大精度为小数点后两位，因此0.015将调整至0.02。`–log`:开启daemonized模式的所有日志将会被打印到制定的文件中。`–monitor`:持续监控从的延迟情况。通过–interval指定的间隔时间，打印出从的延迟信息，通过–file则可以把这些信息打印到指定的文件。`–master-server-id`:指定主的server_id，若没有指定则该工具会连到主上查找其server_id。`–print-master-server-id`:在–monitor和–check 模式下，指定该参数则打印出主的server_id。`–recurse`:多级复制的检查深度。模式M-S-S…不是最后的一个从都需要开启log_slave_updates，这样才能检查到。`–recursion-method`:指定复制检查的方式,默认为processlist,hosts。`–update`:更新主上的心跳表。`–replace`:使用–replace代替–update模式更新心跳表里的时间字段，这样的好处是不用管表里是否有行。`–stop`:停止运行该工具（–daemonize），在/tmp/目录下创建一个“pt-heartbeat-sentinel” 文件。后面想重新开启则需要把该临时文件删除，才能开启（–daemonize）。`–table`:指定心跳表名，默认heartbeat。
1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950515253545556575859606162

1.3 pt-heartbeat 实战

1）主库创建 heartbeat心跳表，通过update执行更新时间戳，心跳表指定建立在sbtest库下。
pt-heartbeat -S /tmp/mysql3306.sock –database sbtest –update –create-table –daemonize12
2）主库利用sysbench模拟数据操作
sysbench /usr/share/sysbench/oltp_read_write.lua \
–mysql-socket=/tmp/mysql3306.sock \
–mysql-user=root \
–mysql-password=mysql \
–mysql-db=sbtest \
–db-driver=mysql \
–tables=10 \
–table-size=500000 \
–report-interval=10 \
–threads=128 \
–time=120 \
prepare|run|cleanupprepare:准备数据，
run：执行压测，
cleanup:清除数据123456789101112131415161718
3）从库进行监控pt-heartbeat -S /tmp/mysql3306.sock –master-server-id=1003306 –monitor –database sbtest
1.00s [ 0.02s, 0.00s, 0.00s ]
1.00s [ 0.03s, 0.01s, 0.00s ]
0.86s [ 0.05s, 0.01s, 0.00s ]
0.86s [ 0.06s, 0.01s, 0.00s ]
0.96s [ 0.08s, 0.02s, 0.01s ]
1.00s [ 0.09s, 0.02s, 0.01s ]
0.88s [ 0.11s, 0.02s, 0.01s ]
0.00s [ 0.11s, 0.02s, 0.01s ]
1.01s [ 0.13s, 0.03s, 0.01s ]
0.00s [ 0.13s, 0.03s, 0.01s ]
0.00s [ 0.13s, 0.03s, 0.01s ]
…结果表示有延时1s左右，中括号中的数据分别表示1m,5m,15m的平均值
12345678910111213141516

2. pt-slave-restart

pt-slave-restart是一个可以跳过特定错误并自动重启slave的工具。

2.1 pt-slave-restart 原理

pt-slave-restart监控一个或者多个MySQL复制slave，试图跳过引起错误的语句。它以指数变化的睡眠时间职能地检查slave。你可以指定要跳过的错误然后运行slave一直到一个确定的binlog位置。
pt-slave-restart一旦检测到slave有错误就会打印一行。默认情况下该打印行为：时间戳、连接信息、relay_log_file，relay_log_pos，以及last_errno。你可以使用–verbose选项添加更多信息，也可以使用–quiet选项阻止所有输出。
SLEEP
pt-slave-restart检查slave的过程中智能地sleep。当前的sleep时间是变化的。初始sleep时间通过–sleep选项给出。
如果检测发现错误，它对半之前的sleep时间。
如果检测到没有错误，它倍增之前的sleep时间。
通过–min-sleep和–max-sleep参数限定sleep时间的下界和上界。
一旦检测到错误，pt-slave-restart假定接下来很可能发生另一个错误，因此它采用当前的sleep时间或者初始sleep时间，取决于哪个值更小。注意：
从Percona Toolkit 2.2.8版本起，pt-slave-restart开始支持由MySQL 5.6.5版本引入的GTID复制。重点牢记：
当采用多线程复制（slave_parallel_workers > 0）时，pt-slave-restart不能跳过事务。pt-slave-restart不能确定GTID事件是哪个特定slave线程执行失败的事务。
默认行为是跳过来自master的下一个事务。写可以来自不同的服务器，每个服务器都有它自己的UUID。参考–master-uuid选项。

2.2 pt-slave-restart 主要参数介绍

– ` –always ` ：永不停止slave线程，手工停止也不行

– ` –ask-pass` ：替换`-p`命令，不显示密码输入- ` –error-numbers` ：指定跳过哪些错误，可用`,`进行分隔- ` –error-text` ：根据错误信息进行匹配跳过- ` –log` ：输出到文件- ` –recurse` ：在主端执行，监控从端- ` –runtime ` ：工具执行多长时间后退出：默认秒， m=minute,h=hours,d=days- ` –slave-user –slave-password` ：从库的账号密码，从主端运行时使用- ` –skip-count ` ：一次跳过错误的个数，胆大的可以设置大些，不指定默认1个 – `–master-uuid` ：级联复制的时候，指定跳过上级或者上上级事务的错误- ` –until-master` ：到达指定的master_log_pos,file位置后停止，格式：”file:pos“ – `–until-relay` ：和上面一样，但根据relay_log的位置来停止- `–sleep`：默认值为1，检查slave间隔的初始sleep秒数。
12345678910111213141516171819202122232425

2.3 pt-slave-restart 实战

#1. 在master上创建表
create table z1(id int not null,uname varchar(32),primary key(id));#2. 在slave上插入数据
set sql_log_bin=0;
set global read_only=off;
insert into z1(id,uname) values(3,’python’);#3. 在master上插入数据
insert into z1(id,uname) values(2,’mysql’);
insert into z1(id,uname) values(3,’java’);#4. 在slave上查看复制状态
show slave status\G…
             Slave_IO_Running: Yes
            Slave_SQL_Running: No
…
               Last_SQL_Errno: 1062
               Last_SQL_Error: Could not execute Write_rows event on table test.z1; Duplicate entry ‘3’ for key ‘PRIMARY’, Error_code: 1062; handler error HA_ERR_FOUND_DUPP_KEY; the event’s master log my3306_binlog.000071, end_log_pos 1214#5. 在slave上使用pt-slave-restart跳过指定错误
pt-slave-restart –error-numbers=1062
2018-09-19T15:24:02 mysqldb2-relay-bin.000019        1088 1062 #6. 在slave上查看复制状态
···
            Slave_IO_Running: Yes
            Slave_SQL_Running: Yes
···#说明复制已经正常，跳过了错误事务。#但是master与slave上的这张表数据不一致，所以这种修复方法只能算暂时的。#之后还需进行修复1234567891011121314151617181920212223242526272829303132333435363738

3. pt-table-checksum

pt-table-checksum工具用来检查主从数据一致性。

3.1 pt-table-checksum 原理

pt-table-checksum用于校验主从数据的一致性，该命令在主库上执行校验，然后对复制的一致性进行检查，来对比主从之间的校验值，并输出对比结果。

3.2 pt-table-checksum 主要参数介绍

– `–[no]check-replication-filters`：是否检查复制的过滤器，默认是yes，建议启用不检查模式。

– `–databases | -d`：指定需要被检查的数据库，多个库之间可以用逗号分隔。- `–[no]check-binlog-format`：是否检查binlog文件的格式，默认值yes。建议开启不检查。因为在默认的row格式下会出错。- `–replicate`：把checksum的信息写入到指定表中。- `–replicate-check-only`：只显示不同步信息
123456789

3.3 pt-table-checksum 实战

pt-table-checksum –nocheck-replication-filters –no-check-binlog-format –replicate=test.checksums –create-replicate-table –databases=test –tables=z1 h=192.168.56.100,u=wanbin,p=mysql,P=3306

Checking if all tables can be checksummed …
Starting checksum …
            TS ERRORS DIFFS     ROWS DIFF_ROWS CHUNKS SKIPPED    TIME TABLE
09-19T15:58:29      0      1        2          0       1       0   0.086 test.z1#解释：
`TS` ：完成检查的时间。
`ERRORS` ：检查时候发生错误和警告的数量。
`DIFFS`：0表示一致，1表示不一致。当指定–no-replicate-check时，会一直为0，当指定–replicate-check-only会显示不同的信息。
`ROWS` ：表的行数。
`CHUNKS` ：被划分到表中的块的数目。
`SKIPPED` ：由于错误或警告或过大，则跳过块的数目。
`TIME` ：执行的时间。
`TABLE` ：被检查的表名。pt-table-checksum –nocheck-replication-filters –no-check-binlog-format –replicate=test.checksums –create-replicate-table –databases=test –replicate-check-only h=192.168.56.100,u=wanbin,p=mysql,P=3306Checking if all tables can be checksummed …
Starting checksum …
Differences on mysqldb2
TABLE CHUNK CNT_DIFF CRC_DIFF CHUNK_INDEX LOWER_BOUNDARY UPPER_BOUNDARY
test.z1 1 -1 1   【注意】：
1）根据测试，需要一个即能登录主库，也能登录从库的账号；
2）只能指定一个host，必须为主库的IP；
3）在检查时会向表加S锁；
4）运行之前需要从库的同步IO和SQL进程是YES状态。
12345678910111213141516171819202122232425262728293031

4. pt-table-sync

pt-table-sync用来修复主从数据不一致

4.1 pt-table-sync 原理

pt-table-sync高效的同步MySQL表之间的数据，他可以做单向和双向同步的表数据。他可以同步单个表，也可以同步整个库。它不同步表结构、索引、或任何其他模式对象。所以在修复一致性之前需要保证他们表存在。

4.2 pt-table-sync 主要参数介绍

`–replicate` ：指定通过pt-table-checksum得到的表，这2个工具差不多都会一直用。
`–databases` : 指定执行同步的数据库。
`–tables` ：指定执行同步的表，多个用逗号隔开。
`–sync-to-master` ：指定一个DSN，即从的IP，他会通过show processlist或show slave status 去自动的找主。
`h=` ：服务器地址，命令里有2个ip，第一次出现的是Master的地址，第2次是Slave的地址。
`u=` ：帐号。
`p=` ：密码。
`–print` ：打印，但不执行命令。
`–execute ：执行命令。12345678910

4.3 pt-table-sync 实战

#print修复命令

pt-table-sync –replicate=test.checksums h=192.168.56.100,u=wanbin,p=mysql,P=3306 h=192.168.56.200,u=wanbin,p=mysql,P=3306 –printREPLACE INTO `test`.`z1`(`id`, `uname`) VALUES (‘3’, ‘java’) /*percona-toolkit src_db:test src_tbl:z1 src_dsn:P=3306,h=192.168.56.100,p=…,u=wanbin dst_db:test dst_tbl:z1 dst_dsn:P=3306,h=mysqldb2,p=…,u=wanbin lock:1 transaction:1 changing_src:test.checksums replicate:test.checksums bidirectional:0 pid:4374 user:root host:mysqldb1*/;#execute修复命令
pt-table-sync –replicate=test.checksums h=192.168.56.100,u=wanbin,p=mysql,P=3306 h=192.168.56.200,u=wanbin,p=mysql,P=3306 –execute#再使用pt-table-checksumpt-table-checksum –nocheck-replication-filters –no-check-binlog-format –replicate=test.checksums –create-replicate-table –databases=test –tables=z1 h=192.168.56.100,u=wanbin,p=mysql,P=3306
Checking if all tables can be checksummed …
Starting checksum …
TS ERRORS DIFFS ROWS DIFF_ROWS CHUNKS SKIPPED TIME TABLE
09-19T16:11:50 0 0 2 0 1 0 0.134 test.z1【注意】：要是表中没有唯一索引或则主键则会报错：
Can’t make changes on the master because no unique index exists at /usr/local/bin/pt-table-sync line 10591.123456789101112131415161718192021222324

原文：https://blog.csdn.net/wanbin6470398/article/details/83178755