Mysql双主加Keepalived+读写分离
一、MySQL于keepalived简介**
前言:
在企业中,数据库高可用一直是企业的重中之重,中小企业很多都是使用mysql主从方案,一主多从,读写分离等,但是单主存在单点故障,从库切换成主库需要作改动。因此,如果是双主或者多主,就会增加mysql入口,增加高可用。不过多主需要考虑自增长ID问题,这个需要特别设置配置文件,比如双主,可以使用奇偶,总之,主之间设置自增长ID相互不冲突就能完美解决自增长ID冲突问题。
1.1、MySQL**
1.1.1、MySQL主从复制原理
复制分成三步:
\1. master将改变记录到二进制日志(binary log)中(这些记录叫做二进制日志事件,binary log events);
\2. slave将master的binary log events拷贝到它的中继日志(relay log);
\3. slave重做中继日志中的事件,将改变反映它自己的数据。
下图描述了这一过程:
1.1.2、MySQL双主构建思路
1.两台mysql都可读写,互为主备,默认只使用一台(masterA)负责数据的写入,另一台(masterB)备用;
2.masterA是masterB的主库,masterB又是masterA的主库,它们互为主从;
3.两台主库之间做高可用,可以采用keepalived等方案(使用VIP对外提供服务);
4.所有提供服务的从服务器与masterB进行主从同步(双主多从);
5.建议采用高可用策略的时候,masterA或masterB均不因宕机恢复后而抢占VIP(非抢占模式);
这样做可以在一定程度上保证主库的高可用,在一台主库down掉之后,可以在极短的时间内切换到另一台主库上(尽可能减少主库宕机对业务造成的影响),减少了主从同步给线上主库带来的压力;
但是也有几个不足的地方:
1.masterB可能会一直处于空闲状态(可以用它当从库,负责部分查询);
2.主库后面提供服务的从库要等masterB先同步完了数据后才能去masterB上去同步数据,这样可能会造成一定程度的同步延时;
架构的简易图如下:
1.1.3、MySQL双主和主从模式的区别
主从是对主操作数据,从会实时同步数据。反之对从操作,主不会同步数据,还有可能造成数据紊乱,导致主从失效。 主主则是无论对那一台操作,另一个都会同步数据。一般用作高容灾方案
1.2、Keepalived介绍**
Keepalived是一个基于VRRP协议来实现的WEB 服务高可用方案,可以利用其来避免单点故障。一个WEB服务至少会有2台服务器运行Keepalived,一台为主服务器(MASTER),一台为备份服务器(BACKUP),但是对外表现为一个虚拟IP,主服务器会发送特定的消息给备份服务器,当备份服务器收不到这个消息的时候,即主服务器宕机的时候,备份服务器就会接管虚拟IP,继续提供服务,从而保证了高可用性。
1.2.1、keepalived理论工作原理
keepalived可提供vrrp以及health-check功能,可以只用它提供双机浮动的vip(vrrp虚拟路由功能),这样可以简单实现一个双机热备高可用功能。
keepalived是一个类似于layer3, 4 & 5交换机制的软件,也就是我们平时说的第3层、第4层和第5层交换。Keepalived的作用是检测web 服务器的状态。 Layer3,4&5工作在IP/TCP协议栈的IP层,TCP层,及应用层,原理分别如下:
Layer3:Keepalived使用Layer3的方式工作式时,Keepalived会定期向服务器群中的服务器
发送一个ICMP的数据包(既我们平时用的Ping程序),如果发现某台服务的IP地址没有激活,Keepalived便报告这台服务器失效,并将它从服务器群中剔除,这种情况的典型例子是某台服务器被非法关机。Layer3的方式是以服务器的IP地址是否有效作为服务器工作正常与否的标准。在本文中将采用这种方式。
Layer4:如果您理解了Layer3的方式,Layer4就容易了。Layer4主要以TCP端口的状态来决定服务器工作正常与否。如web server的服务端口一般是80,如果Keepalived检测到80端口没有启动,则Keepalived将把这台服务器从服务器群中剔除。
Layer5:Layer5就是工作在具体的应用层了,比Layer3,Layer4要复杂一点,在网络上占用的带宽也要大一些。Keepalived将根据用户的设定检查服务器程序的运行是否正常,如果与用户的设定不相符,则Keepalived将把服务器从服务器群中剔除。
vip即虚拟ip,是附在主机网卡上的,即对主机网卡进行虚拟,此IP仍然是占用了此网段的某个IP。
1.2.2、keepalived高可用故障切换转移原理
Keepalived高可用服务对之间的故障切换转移,是通过 VRRP (Virtual Router Redundancy Protocol ,虚拟路由器冗余协议)来实现的。
核心:
在 Keepalived服务正常工作时,主 Master节点会不断地向备节点发送(多播的方式)心跳消息,用以告诉备Backup节点自己还活看,当主 Master节点发生故障时,就无法发送心跳消息,备节点也就因此无法继续检测到来自主 Master节点的心跳了,于是调用自身的接管程序,接管主Master节点的 IP资源及服务。而当主 Master节点恢复时,备Backup节点又会释放主节点故障时自身接管的IP资源及服务,恢复到原来的备用角色。
VRRP ,全 称 Virtual Router Redundancy Protocol ,中文名为虚拟路由冗余协议 ,VRRP的出现就是为了解决静态踣甶的单点故障问题,VRRP是通过一种竞选机制来将路由的任务交给某台VRRP路由器的。
1.3、目的:
解决mysql数据库Master-Slave 单点故障问题。
1.3,1、实现方式:
\1. Master-Master Replication 实现数据同步。
2.通过keepalived虚拟IP 从网络层实现单点故障时IP自动切换,从而实现高可用。
3.通过keepalived配置实现read读指向Slave节点,实现读写分离。
缺点:根据线上实际应用情况,只考虑单点网络故障及机器设备故障时虚拟ip自动切换(只切换一次)。不考虑mysql服务异常等情况,数据库异常可通过nagios等监控,防止多次来回切换,造成数据混乱!且故障节点恢复时,要人工操作及注意步骤。
1.3.2、MySQL双主读写分离模式
1、使用两个MySQL数据库db01,db02,互为Master和Slave,即:
一边db01作为db02的master,一旦有数据写向db01时,db02定时从db01更新
另一边db02也作为db01的master,一旦有数据写向db02时,db01也定时从db02获得更新
(这不会导致循环,MySQL Slave默认不会记录Master同步过来的变化)
2、但从AppServer的角度来说,同时只有一个结点db01扮演Master,另外一个结点db02扮演Slave,不能同时两个结点扮演Master。即AppSever总是把write操作分配某个数据库(db01),除非db01 failed,被切换。
3、如果扮演Slave的数据库结点db02 Failed了:
a)此时appServer要能够把所有的read,write分配给db01,read操作不再指向db02
b)一旦db02恢复过来后,继续充当Slave角色,并告诉AppServer可以将read分配给它了.
4、如果扮演Master的数据库结点db01 Failed了
a)此时appServer要能够把所有的写操作从db01切换分配给db02,也就是切换Master由db02充当
b)db01恢复过来后,充当Slave的角色,Master由db02继续扮演。
测试环境:
服务器:
DB1:192.168.25.31、centos7.6、mysql5.7、keepalived、hostname:DB1
DB2:192.168.25.32、centos7.6、mysql5.7、keepalived、hostname:DB2
Slave1:192.168.25.34、cenots7.6、mysql5.7、hostname:slave
VIP:192.168.25.200(虚拟)
远程客户端:192.168.25.35(用来调用vip测试)
步骤
二:实现两台MySQL主主同步
2.1、安装MySQL
DB1、DB2两台服务器分别安装MySQL,这两台均已安装过程省略
2.2、修改MySQL配置文件
分别修改配置文件,在/etc/my.cnf文件中得[mysqld]段加配置信息
DB1: [root@DB1 ~]# vim /etc/my.cnf server-id=1 log-bin=mysql-bin relay-log=mysql-relay-bin replicate-wild-ignore-table=mysql.% replicate-wild-ignore-table=test.% replicate-wild-ignore-table=information_schema.% auto-increment-increment = 2 auto-increment-offset = 1 slave-skip-errors = all
解释:
server-id=1(节点标识,每台的server-id不能养,必须全局唯一)
log-bin=mysql-bin(开启binlog日志,用于主从数据复制)
relay-log=mysql-relay-bin(开启relay-log日志,relay-log日志记录的是从服务器I/O 线程将主服务器的二进制日志读取过来记录到从服务器本地文件,然后SQL线程会读取relay-log日志的内容并应用到从服务器)
replicate-wild-ignore-table=mysql.%(复制过滤选项)
auto-increment-increment = 2(字段一次递增多少)
auto-increment-offset = 1(自增字段的起始值:1、3、5、7、等奇数)
保存重启,使其配置生效
[root@DB1 ~]# service mysqld restart Shutting down MySQL.. SUCCESS! Starting MySQL. SUCCESS! DB2: [root@DB2 ~]# vim /etc/my.cnf server-id=2 log-bin=mysql-bin relay-log=mysql-relay-bin replicate-wild-ignore-table=mysql.% replicate-wild-ignore-table=test.% replicate-wild-ignore-table=information_schema.% auto-increment-increment = 2 auto-increment-offset = 2 slave-skip-errors = all 保存重启,使其配置生效 [root@DB2 ~]# service mysqld restart Shutting down MySQL.. SUCCESS! Starting MySQL. SUCCESS! Slave1: [root@slave1 ~]# vim /etc/my.cnf [mysqld] server-id=3 log-bin=mysql-bin log-slave-updates relay-log=mysql-relay-bin replicate-wild-ignore-table=mysql.% replicate-wild-ignore-table=test.% replicate-wild-ignore-table=information_schema.% auto-increment-increment = 2 auto-increment-offset = 3 slave-skip-errors = all
#注:在执行主主互备之前要保证两台服务器上MySQL数据一致
2.3、MySQL配置DB1、DB2主主模式
2.3.1、先查看log bin日志和pos位置
DB1:
[root@DB1 ~]# mysql -uroot -pwww.123 mysql> show master status;
DB2: [root@DB2 ~]# mysql -uroot -pwww.123 mysql> show master status;
2.3.2、DB1、DB2互相提升访问权限
DB1:
在DB1的数据库创建DB2的复制用户并授权
mysql> grant replication slave on *.* to 'cproot'@'192.168.25.32' identified by 'cpwww.123'; Query OK, 0 rows affected, 1 warning (0.02 sec) 刷新并查看log bin日志和pos位置 mysql> flush privileges; Query OK, 0 rows affected (0.02 sec) mysql> show master status;
DB2:
mysql> grant replication slave on *.* to 'cproot'@'192.168.25.31'identified by 'cpwww.123'; Query OK, 0 rows affected, 1 warning (0.02 sec) mysql> flush privileges; Query OK, 0 rows affected (0.01 sec) mysql> show master status;
在DB2的数据库中将DB1设置为自己得主服务器
mysql> change master to master_host='192.168.25.31',master_user='cproot',master_password='cpwww.123',master_log_file='mysql-bin.000001',master_log_pos=613; Query OK, 0 rows affected, 2 warnings (0.11 sec)
DB1:
在DB1的数据库中将DB2设置为自己的主服务器
mysql> change master to master_host='192.168.25.32',master_user='cproot',master_password='cpwww.123',master_log_file='mysql-bin.000001',master_log_pos=613; Query OK, 0 rows affected, 2 warnings (0.11 sec)
分别查看DB1、DB2服务器状态
DB2:
mysql> start slave;Query OK, 0 rows affected (0.01 sec)mysql> show slave status\G;
如果slave_io不是yes是
这样得话那就有三种可能错误需要排查
1,网络不通
2,密码不正确
3,Pos不对
4,防火墙没关
我这次遇到的就是防火墙没关,并且用service iptables stop还不好使,我是这样解决的
先看提示得错误
提示用/bin/systemctl stop iptables.service这样得方式去关闭,这里需要先安装iptables.services然后在关闭防火墙
[root@DB2 data]# yum -y install iptables-services[root@DB2 ~]# systemctl stop iptables
DB1:
mysql> start slave;Query OK, 0 rows affected (0.01 sec)mysql> show slave status\G;
到此主主同步配置完成,查看状态slave_io和slave_sql都是yes说明主主同步成功
2.4、测试主主同步
在DB1上创建一个数据库one,然后在DB2上查看是否同步成功
注意:在创建之前最好再次重启一下MySQL数据库不然可能会同步不成功
DB1:mysql> create database one;Query OK, 1 row affected (0.02 sec) mysql> show databases;+--------------------+| Database |+--------------------+| information_schema || mysql || one || performance_schema || sys |+--------------------+5 rows in set (0.00 sec)
DB2:
mysql> show databases;+--------------------+| Database |+--------------------+| information_schema || mysql || one || performance_schema || sys |+--------------------+5 rows in set (0.00 sec)在DB2把新建的数据库one删除掉,看看DB1上是否还存在mysql> drop database one;Query OK, 0 rows affected (0.01 sec) mysql> show databases;+--------------------+| Database |+--------------------+| information_schema || mysql || performance_schema || sys |+--------------------+4 rows in set (0.00 sec)
DB1:
mysql> show databases;+--------------------+| Database |+--------------------+| information_schema || mysql || performance_schema || sys |+--------------------+4 rows in set (0.00 sec)
双向操作没问题,都可以同步成功,主主已经搭建成功
2.5、配置slave从服务器
DB1
在DB1的数据库创建slave1的复制用户并授权
mysql> grant replication slave on *.* to 'cproot'@'192.168.25.34' identified by 'cpwww.123';Query OK, 0 rows affected, 1 warning (0.01 sec) mysql> flush privileges;Query OK, 0 rows affected (0.01 sec) mysql> show master status;
在slave里的数据库里把DB1设置为主服务器
Slave1:
mysql> change master to master_host='192.168.25.31',master_user='cproot',master_password='cpwww.123',master_log_file='mysql-bin.000003',master_log_pos=774;Query OK, 0 rows affected, 2 warnings (0.05 sec)mysql> start slave;Query OK, 0 rows affected (0.01 sec)mysql> show slave status\G
查看状态slave_io和slave_sql都是yes,这里主从就同步成功了
测试在DB1数据库新建two
DB1:
mysql> create database two;Query OK, 1 row affected (0.02 sec) mysql> show databases;
Slave1:
在slave1上查看是否同步
主从同步成功
同步错误问题总结:如果slave_io不是yes多看看防火墙是否关闭,还有就是授权是输入得账号密码和pos是否输入正确了
三、安装并配置keepalived
3.1、两台都需要安装keepalived
DB1、DB2:
安装keepalived并将其配置成系统服务。DB1和DB2都要进行如下操作:
[root@DB1 ~]# yum install -y openssl-devel[root@DB1 ~]# cd /usr/local/src/[root@DB1 src]# wget http://www.keepalived.org/software/keepalived-1.3.5.tar.gz[root@DB1 src]# tar -zxvf keepalived-1.3.5.tar.gz [root@DB1 src]# cd keepalived-1.3.5[root@DB1 keepalived-1.3.5]# ./configure --prefix=/usr/local/keepalived
执行这个后会发现在最后会报错configure: error: libnfnetlink headers missing(没有的话忽略)
然后执行
[root@DB1 keepalived-1.3.5]# yum -y install libnfnetlink-devel再重新执行./configure[root@DB1 keepalived-1.3.5]# ./configure --prefix=/usr/local/keepalived[root@DB1 keepalived-1.3.5]# make && make install
在执行这一条的时候如果遇到这样的错误可能是没有依赖包
解决方法:
[root@DB2 keepalived-1.3.5]# yum -y install libnl libnl-devel libnfnetlink-devel openssl-devel
(最好是在安装之前全部执行这条语句以防发生错误)
[root@DB1 keepalived-1.3.5]# cp /usr/local/src/keepalived-1.3.5/keepalived/etc/init.d/keepalived /etc/rc.d/init.d/[root@DB1 keepalived-1.3.5]# cp /usr/local/keepalived/etc/sysconfig/keepalived /etc/sysconfig/[root@DB1 keepalived-1.3.5]# mkdir /etc/keepalived/[root@DB1 keepalived-1.3.5]# cp /usr/local/keepalived/etc/keepalived/keepalived.conf /etc/keepalived/[root@DB1 keepalived-1.3.5]# cp /usr/local/keepalived/sbin/keepalived /usr/sbin/[root@DB1 keepalived-1.3.5]# echo "/etc/init.d/keepalived start" >>/etc/rc.local
3.2、DB1上的keepalived.conf配置
DB1:
[root@DB1 ~]# cp /etc/keepalived/keepalived.conf /etc/keepalived/keepalived.conf.bak[root@DB1 ~]# vim /etc/keepalived/keepalived.conf! Configuration File for keepalived global_defs {notification_email {ops@wangshibo.cntech@wangshibo.cn} notification_email_from ops@wangshibo.cnsmtp_server 127.0.0.1 smtp_connect_timeout 30router_id MASTER-HA} vrrp_script chk_mysql_port { #检测mysql服务是否在运行。有很多方式,比如进程,用脚本检测等等 script "/opt/chk_mysql.sh" #这里通过脚本监测 interval 2 #脚本执行间隔,每2s检测一次 weight -5 #脚本结果导致的优先级变更,检测失败(脚本返回非0)则优先级 -5 fall 2 #检测连续2次失败才算确定是真失败。会用weight减少优先级(1-255之间) rise 1 #检测1次成功就算成功。但不修改优先级} vrrp_instance VI_1 { state BACKUP interface ens160 #指定虚拟ip的网卡接口 mcast_src_ip 192.168.25.31 virtual_router_id 79 #路由器标识,MASTER和BACKUP必须是一致的 priority 100 #定义优先级,数字越大,优先级越高,在同一个vrrp_instance下,MASTER的优先级必须大于BACKUP的优先级。这样MASTER故障恢复后,就可以将VIP资源再次抢回来 \# nopreempt advert_int 1 authentication { auth_type PASS auth_pass 1111 } virtual_ipaddress { 192.168.25.200 } track_script { chk_mysql_port }}
编写切换脚本。KeepAlived做心跳检测,如果Master的MySQL服务挂了(3306端口挂了),那么它就会选择自杀。Slave的KeepAlived通过心跳检测发现这个情况,就会将VIP的请求接管
[root@DB1 ~]# vim /opt/chk_mysql.sh\#!/bin/bashcounter=$(netstat -na|grep "LISTEN"|grep "3306"|wc -l)if [ "${counter}" -eq 0 ]; then/etc/init.d/keepalived stopfi[root@DB1 ~]# chmod 755 /opt/chk_mysql.sh [root@DB1 ~]# /etc/init.d/keepalived start
3.2、DB2上配置keepalived,DB2服务器上的keepalived.conf文件只修改priority为99、nopreempt不设置
DB2:
[root@DB2 ~]# cp /etc/keepalived/keepalived.conf /etc/keepalived/keepalived.conf.bak[root@DB2 ~]# >/etc/keepalived/keepalived.conf[root@DB2 ~]# vim /etc/keepalived/keepalived.conf! Configuration File for keepalived global_defs {notification_email {ops@qq.comtech@qq.com} notification_email_from ops@wangshibo.cnsmtp_server 127.0.0.1 smtp_connect_timeout 30router_id MASTER-HA} vrrp_script chk_mysql_port { script "/opt/chk_mysql.sh" interval 2 weight -5 fall 2 rise 1 } vrrp_instance VI_1 { state BACKUP interface ens160 mcast_src_ip 192.168.25.32 virtual_router_id 79 priority 99 advert_int 1 authentication { auth_type PASS auth_pass 1111 } virtual_ipaddress { 192.168.25.200 } track_script { chk_mysql_port }}[root@DB2 ~]# cat /opt/chk_mysql.sh \#!/bin/bashcounter=$(netstat -na|grep "LISTEN"|grep "3306"|wc -l)if [ "${counter}" -eq 0 ]; then /etc/init.d/keepalived stopfi[root@DB2 ~]# chmod 755 /opt/chk_mysql.sh [root@DB2 ~]# /etc/init.d/keepalived start
####常用的指令说明
(1)notification_email:收件箱
(2)notification_email_from:发件箱
(3)vrrp_mcast_group4:VRRP多播地址,必须为D类地址,即可用IP范围为224.0.0.0~239.255.255.255
(4)script:自定义检查脚本路径
(5)interval:自定义检查脚本的执行时间间隔,单位为秒
(6)vrrp_instance:配置虚拟路由器实例
(7)state:MASTER或BACKUP,当前节点在此虚拟路由器上的初始状态,只能有一个为MASTER,其余的都应该为BACKUP,此处都需要配置为BACKUP
(8)nopreempt:定义工作模式为非抢占模式,默认为抢占模式
(9)preempt_delay:抢占模式下,节点上线后触发新选举操作的延迟时长,单位为秒
(10)interface:绑定当前虚拟路由器使用的物理接口
(11)virtual_router_id:当前虚拟路由器的唯一标识,取值范围为0~255,两个节点必须一致
(12)priority:当前主机在此虚拟路由器中的优先级,取值范围为0~255
(13)advert_int:VRRP通告心跳信息和优先级信息的时间间隔,单位为秒
(14)auth_type:认证类型
(15)auth_pass:认证密码,两个节点必须一致
(16)virtual_ipaddress:VIP地址
(17)可通过命令# man keepalived.conf查看keepalived.conf配置文件的详细帮助文档
现在查看一下vip在那一台机器,在DB1上是正确的
在DB1下是正确的
3.3、测试:
首先先测试vip能不能正常切换
在DB1上操作关闭MySQL,看看能不能飘移到DB2上,然后在启动能不能正常飘移到DB1上
DB1:
[root@DB1 ~]# /etc/init.d/mysqld stop[root@DB1 ~]# ip addr
查看得知,关闭msyql后vip已经没了
DB2:
[root@DB2 ~]# ip addr
此时VIP已经飘移到DB2上
启动DB1的MySQL和keepalived
注意:先启动MySQL在启动keepalived,因为脚本里MySQL没有启动的话keepalived启动后会再次关闭的
DB1:
[root@DB1 ~]# /etc/init.d/mysqld startStarting MySQL. SUCCESS! [root@DB1 ~]# /etc/init.d/keepalived startStarting keepalived (via systemctl): [ 确定 ][root@DB1 ~]# ip addr
此时VIP已经成功飘移回DB1上
3.4、故障转移高可用测试
首先在DB1和DB2上都要授权允许root用户远程登录,用于在客户端登录测试!
并在两台机器上设置IPtables防火墙规则
DB1:
授权:[root@DB1 ~]# mysql -uroot -pwww.123mysql> grant all on *.* to root@'192.168.25.%' identified by "www.123";Query OK, 0 rows affected, 1 warning (0.02 sec) mysql> flush privileges;Query OK, 0 rows affected (0.01 sec)添加防火墙规则:[root@DB1 ~]# vim /etc/sysconfig/iptables-A INPUT -s 192.168.0.0/24 -d 224.0.0.18 -j ACCEPT #允许组播地址通信-A INPUT -s 192.168.0.0/24 -p vrrp -j ACCEPT #允许VRRP(虚拟路由器冗余协)通信-A INPUT -m state --state NEW -m tcp -p tcp --dport 3306 -j ACCEPT #开放mysql的3306端口[root@DB1 ~]# systemctl start iptables
DB2:
[root@DB2 ~]# mysql -uroot -pwww.123mysql> grant all on *.* to root@'192.168.25.%' identified by "www.123";Query OK, 0 rows affected, 1 warning (0.01 sec) mysql> flush privileges;Query OK, 0 rows affected (0.01 sec)[root@DB2 ~]# vim /etc/sysconfig/iptables-A INPUT -s 192.168.0.0/24 -d 224.0.0.18 -j ACCEPT #允许组播地址通信-A INPUT -s 192.168.0.0/24 -p vrrp -j ACCEPT #允许VRRP(虚拟路由器冗余协)通信-A INPUT -m state --state NEW -m tcp -p tcp --dport 3306 -j ACCEPT #开放mysql的3306端口[root@DB2 ~]# systemctl start iptables注意:如果在启动防火墙报错(没有文件或目录时在防火墙规则里加一条“IPTABLES -P INPUT ACCEPT”然后保存退出会生成/etc/sysconfig/下的iptables配置文件:使用service iptables save之后再重新启动iptables就可以了)
Monitor:
通过MySQL客户端通过VIP连接,看是否可以连接成功。(连接是需要提前在服务器端授权的)
[root@monitor ~]# mysql -h 192.168.25.200 -uroot -pwww.123
创建一个数据库,然后在库中创建一个表,并插入数据。
mysql> show variables like "%hostname%"; (这条语句可查看当前VIP在那台服务器上)
mysql> show databases;
mysql> create database one;Query OK, 1 row affected (0.01 sec) mysql> use one;Database changedmysql> create table test_table(id int, name varchar(32));Query OK, 0 rows affected (0.08 sec) mysql> show tables;+----------------+| Tables_in_one |+----------------+| one_table |+----------------+1 row in set (0.00 sec)mysql> insert into one_table(id,name) values(1,'glt');Query OK, 1 row affected (0.02 sec)
验证数据:
分别查看DB1和DB2的数据同步情况
DB1:
[root@DB1 ~]# mysql -uroot -pwww.123mysql> show databases;+--------------------+| Database |+--------------------+| information_schema || mysql || performance_schema || sys || one |+--------------------+5 rows in set (0.00 sec)mysql> use one;Database changedmysql> show tables;+----------------+| Tables_in_one |+----------------+| one_table |+----------------+1 row in set (0.00 sec)mysql> select * from one_table;+------+------+| id | name |+------+------+| 1 | glt |+------+------+1 row in set (0.00 sec)
DB2:
mysql> show databases;+--------------------+| Database |+--------------------+| information_schema || mysql || one || performance_schema || sys |+--------------------+5 rows in set (0.00 sec)mysql> use oneDatabase changedmysql> show tables;+---------------+| Tables_in_one |+---------------+| one_table |+---------------+1 row in set (0.00 sec) mysql> select * from one_table -> ;+------+------+| id | name |+------+------+| 1 | glt |+------+------+1 row in set (0.00 sec)
3.5故障测试:
停止DB1中的MySQL,通过VIP登录查看当前的在那一台服务器上并继续在one库上插入数据,然后在重启DB1看是否可以同步数据。
DB1:
[root@DB1 ~]# service mysqld stopShutting down MySQL............ SUCCESS!
Monitor:
[root@monitor ~]# mysql -h 192.168.25.200 -uroot -pwww.123mysql> show variables like "%hostname%";+---------------+-------+| Variable_name | Value |+---------------+-------+| hostname | DB2 |+---------------+-------+1 row in set (0.00 sec)
当前连接的是DB2,故障自动切换成功。
mysql> use one;Database changedmysql> insert into one_table(id,name)values(2,'hhh');Query OK, 1 row affected (0.03 sec) mysql> select * from one_table;+------+------+| id | name |+------+------+| 1 | glt || 2 | hhh |+------+------+2 rows in set (0.00 sec)
启动DB1查看同步情况
DB1:
[root@DB1 ~]# /etc/init.d/mysqld startStarting MySQL. SUCCESS! [root@DB1 ~]# mysql -uroot -pwww.123mysql> show databases;+--------------------+| Database |+--------------------+| information_schema || mysql || one || performance_schema || sys |+--------------------+5 rows in set (0.00 sec)mysql> use one;Reading table information for completion of table and column namesYou can turn off this feature to get a quicker startup with -A Database changedmysql> show tables;+---------------+| Tables_in_one |+---------------+| one_table |+---------------+1 row in set (0.00 sec) mysql> select * from one_table -> ;+------+------+| id | name |+------+------+| 1 | glt || 2 | hhh |+------+------+2 rows in set (0.00 sec)
数据同步成功
到此,双机热备全部完成
四、增加读写分离配置**
在之前的基础上改动以下环境;如下:
192.168.25.31 MySQL+keepalived
192.168.25.32 MySQL+keepalived
写入VIP:192.168.25.200(31主,32从)
读取VIP:192.168.25.100(32主,31从)
4.1、MySQL配置文件增加一条配置(两台都要做)
[root@DB1 ~]# cp /etc/my.cnf /etc/my.cnf.bak[root@DB1 ~]# vim /etc/my.cnfbinlog_format=mixed
4.2、配置keepalived
DB1:
[root@DB1 ~]# cp /etc/keepalived/keepalived.conf /etc/keepalived/keepalived.conf.bak2[root@DB1 ~]# vim /etc/keepalived/keepalived.conf修改如下! Configuration File for keepalived global_defs {notification_email {ops@wangshibo.cntech@wangshibo.cn} notification_email_from ops@wangshibo.cnsmtp_server 127.0.0.1 smtp_connect_timeout 30router_id MASTER-HA} vrrp_script chk_mysql_port { #检测mysql服务是否在运行。有很多方式,比如进程,用脚本检测等等 script "/opt/chk_mysql.sh" #这里通过脚本监测 interval 2 #脚本执行间隔,每2s检测一次 weight -5 #脚本结果导致的优先级变更,检测失败(脚本返回非0)则优先级 -5 fall 2 #检测连续2次失败才算确定是真失败。会用weight减少优先级(1-255之间) rise 1 #检测1次成功就算成功。但不修改优先级} vrrp_instance VI_1 { state BACKUP interface ens160 #指定虚拟ip的网卡接口 mcast_src_ip 192.168.25.31 virtual_router_id 79 #路由器标识,MASTER和BACKUP必须是一致的 priority 100 #定义优先级,数字越大,优先级越高,在同一个vrrp_instance下,MASTER的优先级必须大于BACKUP的优先级。这样MASTER故障恢复后,就可以将VIP资源再次抢回来 nopreempt #不主动抢占资源,只有在优先级高的机器上设置即可,优先级低的机器不设置 advert_int 1 authentication { auth_type PASS auth_pass 1111 } virtual_ipaddress { 192.168.25.200 #写入虚拟VIP }} track_script { chk_mysql_port vrrp_instance VI_2{state BACKUP #另一台配置为MASTERinterface ens160virtual_router_id 44 #注意id和上面的不同(另一台和这个ID一样)priority 90 #优先级,另一台为100advert_int 1authentication {auth_type passauth_pass 1111}virtual_ipaddress {192.168.25.100 #读取虚拟VIP}}}
DB2:
##注意:在此次的环境中不知道为什么DB2的keepalived必须要在/usr/local/keepalived/var/run/这个路径下把keepalived.pid文件放进去,不然启动不了,并且每启动一次这个文件就会消失一次,需要再次拷贝过去,原keepalived.pid文件在/run/keepalived.pid
[root@DB2 ~]# cp /run/keepalived.pid /usr/local/keepalived/var/run/** [root@DB2 ~]# cp /etc/keepalived/keepalived.conf /etc/keepalived/keepalived.conf.bak2[root@DB2 ~]# vim /etc/keepalived/keepalived.conf! Configuration File for keepalived global_defs {notification_email {ops@qq.comtech@qq.com} notification_email_from ops@wangshibo.cnsmtp_server 127.0.0.1 smtp_connect_timeout 30router_id MASTER-HA} vrrp_script chk_mysql_port { script "/opt/chk_mysql.sh" interval 2 weight -5 fall 2 rise 1 } vrrp_instance VI_1 { state BACKUP #两台此处都是BACKUP interface ens160 #网卡接口 \#mcast_src_ip 192.168.25.32 virtual_router_id 79 priority 90 advert_int 1 authentication { auth_type PASS auth_pass 1111 } virtual_ipaddress { 192.168.25.200 #写入虚拟VIP } track_script { chk_mysql_port }}vrrp_instance VI_2{state MASTER #用于MySQL读interface ens160 #网卡接口virtual_router_id 44 #注意id和上面的不同(另一台和这个ID一样)priority 100 #优先级,另一台为90advert_int 1authentication {auth_type passauth_pass 1111}virtual_ipaddress {192.168.25.100 #读取虚拟VIP}}}
4.3、查看当前ip是否做成了读写分离
DB1和DB2重启keepalived查看此时的虚拟ip
DB1:
[root@DB1 ~]# ip addr1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN group default qlen 1000 link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00 inet 127.0.0.1/8 scope host lo valid_lft forever preferred_lft forever inet6 ::1/128 scope host valid_lft forever preferred_lft forever2: ens160: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000 link/ether 00:50:56:9d:45:0a brd ff:ff:ff:ff:ff:ff inet 192.168.25.31/24 brd 192.168.25.255 scope global noprefixroute ens160 valid_lft forever preferred_lft forever inet 192.168.25.200/32 scope global ens160 valid_lft forever preferred_lft forever inet6 fe80::779a:c241:de68:1ca8/64 scope link noprefixroute valid_lft forever preferred_lft foreverDB1的虚拟ip是写入ip没问题
DB2:
[root@DB2 ~]# ip addr1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN group default qlen 1000 link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00 inet 127.0.0.1/8 scope host lo valid_lft forever preferred_lft forever inet6 ::1/128 scope host valid_lft forever preferred_lft forever2: ens160: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP group default qlen 1000 link/ether 00:50:56:9d:54:61 brd ff:ff:ff:ff:ff:ff inet 192.168.25.32/24 brd 192.168.25.255 scope global noprefixroute ens160 valid_lft forever preferred_lft forever inet 192.168.25.100/32 scope global ens160 valid_lft forever preferred_lft forever inet6 fe80::5a60:abe2:4734:487e/64 scope link noprefixroute valid_lft forever preferred_lft forever
此时DB2的虚拟ip是读取ip没得问题
4.4、故障处理 (测试)
故障一:31(写)服务器或者网络故障,虚拟ip 200切换到32
1、 31服务器恢复后,不要插上网线或者修改31的iP(防止数据自动同步,导致数据污染)
2、 暂时关闭keepalive(默认开机不启动)
3、 启动31的mysql并停掉slave,防止32数据同步到31,同时插上网线或者修改iP为31;
4、 检查32的slave状态是有主键冲突,如果有主键冲突,导出31上的数据,并做删除;
5、 重启32的slave,查看是否还有主键冲突,如果有继续上步操作,直到32的slave状态恢复正常;
6、 开启31的slave并查看slave状态,正常情况下应该不会出现主键冲突,如果有主键冲突,导出数据并分析原因,(根据实际情况处理)
7、 检查31与32服务器数据是否一致,如果数据一致,切换VIP 100(读虚拟IP)到31,修改步骤如下:
a)修改32的keepalive配置vrrp_instance VI_2 中state状态为BACKUP、priority 修改为90
b)重启32 keepalive(确保31的keepalive是关闭状态)
c)修改31的keepalive配置vrrp_instance VI_2 中state状态为MASTER、priority 修改为180
d)重启31的keepalive
e)检查VIP 100(读虚拟IP)是否切到31上,并且VIP 200(写虚拟IP)应该保留在32上。
8、 线上应用测试(读与写)
故障修复后的状态应该是:
1.192.168.25.31 mysql+keepalive
2.192.168.25.32 mysql+keepalive
3.写入VIP:192.168.25.200(32主,31从)
4.读取VIP:192.168.25.100(31主,32从)
故障二、32(读)数据库出现故障,VIP 100(读虚拟IP)切到31服务器
1、修复32服务器之前应断开网线或者修改ip(防止读VIP自动切回)
2、关闭keepalive 所以服务器上的keepalive 最好设计成开不会自动启动命令如下:chkconfig keepalived off
3、检查32数据库的slave状态是否正常,数据库数据同步是否正常
4、数据同步完成后启动keepalive,检查读取数据的虚拟IP 100应该切回本服务器,写数据的虚拟IP不变。
5、应用测试读写数据是否正常
故障三、两台数据库服务器同时故障
1、 开启31和32数据库之前,先断网线
2、 分别检查31和32服务器的mysql更新的最新时间
3、 如果31数据比较新,先插上31的网线,使其对外提供服务。
3.1检查读和写的虚拟iP是否都在31上
3.2关闭32上的keepalive,并且开启32上msyql的salve,同步31上的数据
3.3如果同步正常启动keepalive
3.4测试读写数据是否正常
4、如果32的数据比较新,就先插上32的网线,使其对外提供服务
4.1 检查读和写的虚拟ip是否都在32上
4.2 关闭31上的keepalive,并且开启31上mysql的save,开始同步32上的数据
4.3如果同步正常,启动31的keepalive
4.4测试读写数据是否正常
4.5应用测试程序是否正常