[经验分享] CentOS7+rsync+sersync实现数据实时同步

2019年11月24日 阅读数:41
这篇文章主要向大家介绍[经验分享] CentOS7+rsync+sersync实现数据实时同步,主要内容包括基础应用、实用技巧、原理机制等方面,希望对大家有所帮助。
前言:

1、为何要用Rsync+sersync架构?

一、sersync是基于Inotify开发的,相似于Inotify-tools的工具
二、sersync能够记录下被监听目录中发生变化的(包括增长、删除、修改)具体某一个文件或某一个目录的名字,而后使用rsync同步的时候,只同步发生变化的这个文件或者这个目录。

2、Rsync+Inotify-tools与Rsync+sersync这两种架构有什么区别?

一、Rsync+Inotify-tools
(1):Inotify-tools只能记录下被监听的目录发生了变化(包括增长、删除、修改),并无把具体是哪一个文件或者哪一个目录发生了变化记录下来;
(2):rsync在同步的时候,并不知道具体是哪一个文件或者哪一个目录发生了变化,每次都是对整个目录进行同步,当数据量很大时,整个目录同步很是耗时(rsync要对整个目录遍历查找对比文件),所以,效率很低。

二、Rsync+sersync
(1):sersync能够记录下被监听目录中发生变化的(包括增长、删除、修改)具体某一个文件或某一个目录的名字;
(2):rsync在同步的时候,只同步发生变化的这个文件或者这个目录(每次发生变化的数据相对整个同步目录数据来讲是很小的,rsync在遍历查找比对文件时,速度很快),所以,效率很高。

小结:当同步的目录数据量不大时,建议使用Rsync+Inotify-tools;当数据量很大(几百G甚至1T以上)、文件不少时,建议使用Rsync+sersync。


准备
操做系统 CentOS 7
sersync2.5.4_64bit
源服务器 192.168.0.248
目标服务器 192.168.0.249
把A机器上的一个目录下文件的变化实时同步到B机器上,两边文件保持一致;
两台服务器的selinux与iptables自行设置好,rsync的端口两边要配置一致,默认是873


PS:本文中附上了目标服务器与源服务器的一键部署脚本(亲测可用),若有须要可直接运行脚本进行环境部署,部署完成后只需修改你须要的参数便可使用(install_des.sh目标服务器脚本,install_source.sh源服务器脚本)

操做
目标服务器


1.安装rsync服务与xinetd服务
  • yum install -y rsync xinetd

2.rsync配置(千万注意:本人亲自入坑,下面的配置信息,请在添加到配置文件中后千万记得删除掉后面#部分的备注信息,不然同步过程会失败,不知缘由,删除后便可正常同步,超级大坑...测试了一个早上才找到缘由
 
  • vim /etc/rsyncd.conf
  •  
  • uid = root  #设置rsync的运行用户权限为root
  • gid = root  #设置rsync的运行组权限为root
  • use chroot =no
  • list = no  #不显示rsync服务端资源列表
  • log file = /var/log/rsyncd.log  #配置rsync日志文件存放路径
  • [data  #自定义模块名称
  • path=/data  #定义须要实时同步的路径
  • comment=data  #与模块名称相同便可
  • ignore errors
  • read only=no  #设置rsync服务端文件为读写权限
  • list=no  #不显示rsync服务端资源列表
  • max connections=200  #容许最大的客户端链接数
  • timeout=600  #设置超时时间
  • auth users=rsync  #执行数据同步的虚拟用户名,能够设置多个,用逗号隔开
  • secrets file=/etc/rsync.pas  #设置同步使用的用户及密码信息文件存放路径
  • hosts allow=*  #容许全部用户访问
  • #host deny=0.0.0.0/0  #用于设置拒绝访问的IP,这里注销便可

3.建立用于存放同步的用户及密码的文件/etc/rsync.pas,并将此文件权限修改成600
 
  • echo "rsync:123456lzz" >> /etc/rsync.pas
  • chmod 600 /etc/rsync.pas

4.建立同步的目录/data
 
  • mkdir /data

5.启动rsync与xinetd服务
 
  • systemctl start xinetd  #启动xinetd服务
  • systemctl enable xinetd  #将xinetd服务加入开机项
  • rsync --daemon --config=/etc/rsyncd.conf  #加载配置文件rsyncd.conf启动rsync服务

6.配置rsync开机自启动
 
  • echo "rsync --daemon --config=/etc/rsyncd.conf"  >> /etc/rc.d/rc.local



源服务器
1.下载sersync源码包并安装sersync服务
  • wget --no-check-certificate https://raw.githubusercontent.com/orangle/sersync/master/release/sersync2.5.4_64bit_binary_stable_final.tar.gz
  • mkdir /usr/local/sersync
  • mkdir /usr/local/sersync/conf
  • mkdir /usr/local/sersync/bin
  • mkdir /usr/local/sersync/log
  • tar -zxvf sersync2.5.4_64bit_binary_stable_final.tar.gz
  • cd GNU-Linux-x86/
  • cp confxml.xml /usr/local/sersync/conf
  • cp sersync2 /usr/local/sersync/bin

2.建立密码文件跟目标服务器同样,不过这个文件只要保存密码便可,不须要保存用户名,权限也是600
 
  • echo "123456lzz" >> /etc/rsync.pas
  • chmod 600 /etc/rsync.pas

3.配置sersync服务
 
  • vim /usr/local/sersync/conf/confxml.xml
  • <?xml version="1.0" encoding="ISO-8859-1"?>
  •    <head version="2.5">
  •    <!--设置本地IP和端口-->
  •    <host hostip="localhost" port="8008"></host>
  •    <!--开启DUBUG模式-->
  •    <debug start="false"/>
  •    <!--开启xfs文件系统-->
  •    <fileSystem xfs="false"/>
  •    <!--同步时忽略推送的文件(正则表达式),默认关闭-->
  •    <filter start="false">
  •        <exclude expression="(.*)\.svn"></exclude>
  •        <exclude expression="(.*)\.gz"></exclude>
  •        <exclude expression="^info/*"></exclude>
  •        <exclude expression="^static/*"></exclude>
  •    </filter>
  •    <inotify>
  •    <!--设置要监控的事件-->
  •        <delete start="true"/>
  •        <createFolder start="true"/>
  •        <createFile start="true"/>
  •        <closeWrite start="true"/>
  •        <moveFrom start="true"/>
  •        <moveTo start="true"/>
  •        <attrib start="true"/>
  •        <modify start="true"/>
  •    </inotify>
  •    <sersync>
  •    <!--本地同步的目录路径-->
  •        <localpath watch="/data">
  •    <!--远程IPrsync模块名-->
  •            <remote ip="192.168.0.249" name="data"/>  
  •            <!--<remote ip="192.168.8.39" name="tongbu"/>-->
  •            <!--<remote ip="192.168.8.40" name="tongbu"/>-->
  •        </localpath>
  •        <rsync>
  •    <!--rsync指令参数-->
  •            <commonParams params="-auvzP"/>
  •    <!--rsync同步认证-->
  •            <auth start="true" users="rsync" passwordfile="/etc/rsync.pas"/>
  •    <!--设置rsync远程服务端口,远程非默认端口则需打开自定义-->
  •            <userDefinedPort start="false" port="873"/><!-- port=874 -->
  •    <!--设置超时时间-->
  •            <timeout start="true" time="100"/><!-- timeout=100 -->
  •    <!--设置rsync+ssh加密传输模式,默认关闭,开启需设置SSH加密证书-->
  •            <ssh start="false"/>
  •        </rsync>
  •     <!--sersync传输失败日志脚本路径,每隔60会从新执行该脚本,执行完毕会自动清空-->
  •        <failLog path="/usr/local/sersync/log/rsync_fail_log.sh" timeToExecute="60"/><!--default every 60mins execute once-->
  •     <!--设置rsync+crontab定时传输,默认关闭-->
  •        <crontab start="false" schedule="600"><!--600mins-->
  •            <crontabfilter start="false">
  •                <exclude expression="*.php"></exclude>
  •                <exclude expression="info/*"></exclude>
  •            </crontabfilter>
  •        </crontab>
  •    <!--设置sersync传输后调用name指定的插件脚本,默认关闭-->
  •        <plugin start="false" name="command"/>
  •    </sersync>
  •    <!--插件脚本范例-->
  •    <plugin name="command">
  •        <param prefix="/bin/sh" suffix="" ignoreError="true"/>  <!--prefix /opt/tongbu/mmm.sh suffix-->
  •        <filter start="false">
  •            <include expression="(.*)\.php"/>
  •            <include expression="(.*)\.sh"/>
  •        </filter>
  •    </plugin>
  •    <!--插件脚本范例-->
  •    <plugin name="socket">
  •        <localpath watch="/opt/tongbu">
  •            <deshost ip="192.168.138.20" port="8009"/>
  •        </localpath>
  •    </plugin>
  •    <plugin name="refreshCDN">
  •        <localpath watch="/data0/htdocs/cms.xoyo.com/site/">
  •            <cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxx"/>
  •            <sendurl base="http://pic.xoyo.com/cms"/>
  •            <regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>
  •        </localpath>
  •    </plugin>
  • </head>

4.建立同步目录
 
  • mkdir /data

5.设置环境变量
 
  • echo "export PATH=$PATH:/usr/local/sersync/bin/" >> /etc/profile
  • source /etc/profile

6.启动、重启、中止sersync服务
 
  • sersync2 ---/usr/local/sersync/conf/confxml.xml  #启动
  • killall sersync2 && sersync2 ---/usr/local/sersync/conf/confxml.xml  #重启
  • killall sersync2  #中止

7.设置开机启动sersync
 
  • echo "sersync2 -r -d -o /usr/local/sersync/conf/confxml.xml" >> /etc/rc.d/rc.local

最后启动完源服务器上的sersync服务后重启下目标服务器上的xinetd服务


测试:
在源服务器上的/data目录新建文件或目录再查看目标服务器上的/data目录状态