金山逍遥网sersync服务器实时镜像、自动同步开源程序

dirtysea · 发表于 2010-4-14 22:40:31

当前版本的sersync依赖于rsync进行同步。如下图所示，在同步主服务器上开启sersync，将监控路径中的文件同步到目标服务器，因此需要在主服务器配置sersync，在同步目标服务器配置rsync。对于rsync配置，在google上可以找到很多资料，以下只是一些必要的配置和使用说明，仅供参考，请根据您的实际情况修改

如图所示，需要在同步主服务器上配置sersync，在同步目标服务器配置rsync，并在目标服务器开启rsync守候进程，这样在主服务器产生的文件，就会被sersync实时同步到多个目标服务器。在centos系统下默认已经安装了rsync，只需进行配置，并开启rsync守候进程即可。

配置同步目标服务器rsync
在多台目标服务器上配置如下：

vi /etc/rsyncd.conf

01 uid=root
02 gid=root
03 max connections=36000
04 use chroot=no
05 log file=/var/log/rsyncd.log
06 pid file=/var/run/rsyncd.pid
07 lock file=/var/run/rsyncd.lock
08
09
10 [tongbu1]
11 path=/opt/tongbu1
12 comment = xoyo video files
13 ignore errors = yes
14 read only = no
15 hosts allow = 192.168.0.100/24
16 hosts deny = *

    上面配置文件，表明允许主服务器（假设ip为192.168.0.100）访问，rsync同步模块名为[tongbu1]，将同步过来的文件放入path指定的目录/opt/tongbu1。
如果有多台从服务器，则每一台都需要进行类似的配置。
配置好之后，使用如下命令，开启rsync守护进程:

rsync --daemon

在主服务器上安装配置sresync
下载地址：http://code.google.com/p/sersync/，建议下载最新版
。

tar -zxvf sersyncXxxx_xxbit_binary.tar.gz

cd GNU-Linux-x86/

vi confxml.xml

修改如下部分:

1 <sersync>
2        <localpath watch="/opt/tongbu">
3            <remote ip="192.168.0.104" name="tongbu1"/>
4            <remote ip="192.168.0.105" name="tongbu1"/>
5        </localpath>

表明要将主服务器上本地的/opt/tongbu 路径下的文件，同步到远程服务器 192.168.0.104 与 192.168.0.105上的tongbu1 模块。

运行Sersync与Sersync启动参数
sersync会对目录进行监控，将变化的目录或文件同步到远程服务器。sersync是递归监控的，如果有多级目录，都会同步到远程服务器。常用启动方式如下：

1.在主服务器上开启sersync守护进程,使sersync在后台运行，开启实时同步。
./sersync -d

过程如下:
[root@localhost GNU-Linux-x86]# ls

confxml.xml sersync2
[root@localhost GNU-Linux-x86]# ./sersync2 -d
set the system param
execute：echo 50000000 > /proc/sys/fs/inotify/max_user_watches
execute：echo 327679 > /proc/sys/fs/inotify/max_queued_events
parse the command param
daemon thread num: 10
parse xml config file
host ip : localhost host port: 8008
config xml parse success
please set /etc/rsyncd.conf max connections=0 Manually
sersync working thread 12 = 1(primary thread) + 1(fail retry thread) + 10(daemon sub threads)
please according your cpu ，use -n param to adjust the cpu rate
run the sersync:
watch path is: /opt/tongbu

表明，sersync已经开启，可以在本地监控路径下建立文件，查看远程是否同步成功。

2.在开启实时监控的之前对主服务器目录与远程目标机目录进行一次整体同步
./sersync -r

如果需要将sersync运行前，已经存在的所有文件或目录全部同步到远程，要以-r参数运行sersync，将本地与远程整体同步一次。
如果设置了过滤器，即在xml文件中，filter为true，则暂时不能使用-r参数进行整体同步。-r参数将会无效

3.查看启动参数帮助
./sersync --help

4.指定配置文件
./sersync -o XXXX.xml
对于sersync使用可执行文件目录下的默认配置文件confxml.xml，如果需要使用另一个配置文件，可以使用－o参数指定其它配置文件。

5.指定默认的线程池的线程总数
./sersync -n num
例如 ./sersync -n 5 则指定线程总数为5，如果不指定，默认启动线程池数量是10，如果cpu使用过高，可以通过这个参数调低，如果机器配置较高，可以用－n跳高线程总数。

6.不进行同步，只运行插件
./sersync -m pluginName
例如./sersync -m command，则在监控到文件事件后，不对远程目标服务器进行同步，而是直接运行command插件。

7.多个参数可以配合使用
./sersync -n 8 -o abc.xml -r -d
表示，设置线程池工作线程为8个，指定abc.xml作为配置文件，在实时监控前作一次整体同步，以守护进程方式在后台运行。

8.通常情况下，对本地到远程整体同步一遍后，在后台运行实时同步。
./sersync -r -d

dirtysea · 发表于 2010-6-30 13:54:40

sersync2 完全安装配置说明（二） ----可选功能与xml高级配置

2010-06-05 22:08

XML配置说明

sersync可选功能是通过xml配置文件来实现的，基本配置文件如下：
——————————————————————————————————————————————
01 <?xml version="1.0" encoding="ISO-8859-1"?>
02 <head version="2.5">
03     <host hostip="localhost" port="8008"></host>
04     <filter start="false">
05         <exclude expression="(.*)\.gz"></exclude>
06         <exclude expression="^info/*"></exclude>
07     </filter>
08     <inotify>
09         <delete start="true"/>
10         <createFolder start="true"/>
           <createFile start="true"/>
11     </inotify>
12     <debug start="false"/>
13     <sersync>
14         <localpath watch="/opt/tongbu">
15             <remote ip="192.168.0.104" name="tongbu1"/>
16             
17             
18         </localpath>
19         <rsync>
20            <commonParams params="-artuz"/>
20             <auth start="false" users="root" passwordfile="/etc/rsync.pas"/>
21             <userDefinedPort start="false" port="874"/>
22             <timeout start="false" time="100"/>
23             <ssh start="false"/>
24         </rsync>
25         <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/>
26         <crontab start="false" schedule="600">
27             <crontabfilter start="false">
28                 <exclude expression="*.gz"></exclude>
29                 <exclude expression="info/*"></exclude>
30             </crontabfilter>
31         </crontab>
32         <plugin start="false" name="command"/>
33     </sersync>
——————————————————————————————————————————————

下面做逐行的进行解释说明：
03     <host hostip="localhost" port="8008"></host>
hostip与port是针对插件的保留字段，对于同步功能没有任何作用，保留默认即可。

filter文件过滤功能
对于sersync监控的文件，会默认过滤系统的临时文件(以“.”开头，以“～”结尾)，除了这些文件外，可以自定义其他需要过滤的文件。
04     <filter start="true">
05         <exclude expression="(.*)\.gz"></exclude>
06         <exclude expression="^info/*"></exclude>
07     </filter>
将start设置为 true，在exclude标签中，填写正则表达式，默认给出两个例子分别是过滤以".gz"结尾的文件与过滤监控目录下的info路径（监控路径/info/*），可以根据需要添加，但开启的时候，自己测试一下，正则表达式如果出现错误，控制台会有提示。相比较使用rsync 的exclude功能，被过滤的路径，不会加入监控，大大减少rsync的通讯量。

inotify监控参数设定（优化）
对于inotify监控参数可以进行设置，根据您项目的特点优化srsync。
08     <inotify>
09         <delete start="true"/>
10         <createFolder start="true"/>
11         <createFile start="true"/>
12     </inotify>
对于大多数应用，可以尝试把createFile（监控文件事件选项）设置为false来提高性能，减少 rsync通讯。因为拷贝文件到监控目录会产生create事件与close_write事件，所以如果关闭create事件，只监控文件拷贝结束时的事件close_write，同样可以实现文件完整同步。
注意：强将createFolder保持为true，如果将createFolder设为false，则不会对产生的目录进行监控，该目录下的子文件与子目录也不会被监控。所以除非特殊需要，请开启。
默认情况下对创建文件（目录）事件与删除文件（目录）事件都进行监控，如果项目中不需要删除远程目标服务器的文件（目录），则可以将delete 参数设置为false，则不对删除事件进行监控。

Debug开启
12     <debug start="false"/>
设置为true，开启debug模式，会在sersync正在运行的控制台，打印inotify事件与rsync同步命令。

XFS文件系统
<fileSystem xfs="false"/>
对于xfs文件系统的用户，需要将这个选项开启，才能使sersync正常工作

文件监控与远程同步设置
3     <sersync>
14         <localpath watch="/opt/tongbu">
15             <remote ip="192.168.0.104" name="tongbu1"/>
16             
17             
18         </localpath>
详见sersync2 完全安装配置说明（一） ----基本功能使用

Rsync参数配置
19         <rsync>
20            <commonParams params="-artuz"/>
20             <auth start="false" users="root" passwordfile="/etc/rsync.pas"/>
21             <userDefinedPort start="false" port="874"/>
22             <timeout start="false" time="100"/>
23             <ssh start="false"/>
24         </rsync>
commonParams可以用户自定义rsync参数，默认是-artuz
auth start="false" 设置为true的时候，使用rsync的认证模式传送，需要配置user与passwrodfile(--password-file=/etc/rsync.pas)，来使用。userDefinedPort  当远程同步目标服务器的rsync端口不是默认端口的时候使用(--port=874)。timeout设置rsync的timeout时间（--timeout=100）。ssh 使用rsync －e ssh的方式进行传输。

失败日志脚步配置
25         <failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/>
27             <crontabfilter start="false">
28                 <exclude expression="*.gz"></exclude>
29                 <exclude expression="info/*"></exclude>
30             </crontabfilter>
31         </crontab>
crontab可以对监控路径与远程目标主机每隔一段时间进行一次整体同步，可能由于一些原因两次失败重传都失败了，这个时候如果开启了crontab功能，还可以进一步保证各个服务器文件一致，如果文件量比较大，crontab的时间间隔要设的大一些，否则可能增加通讯开销。schedule这个参数是设置crontab的时间间隔，默认是600分钟
如果开启了filter文件过滤功能，那么crontab整体同步也需要设置过滤，否则虽然实时同步的时候文件被过滤了，但crontab整体同步的时候如果不单独设置crontabfilter，还会将需过滤的文件同步到远程，crontab的过滤正则与filter过滤的不同，也给出了两个实例分别对应与过滤文件与目录。总之如果同时开启了filter与crontab，则要开启crontab的crontabfilter，并按示例设置使其与filter的过滤一一对应。

插件设置
32         <plugin start="false" name="command"/>
当设置为true的时候，将文件同步到远程服务器后会调用name参数指定的插件。详见请看
插件设置。

dirtysea · 发表于 2010-6-30 13:58:54

sersync2 完全安装配置说明（三） ----插件基本配置和使用

2010-06-06 00:53

插件相关xml

<sersync>
......
<plugin start="false" name="command"/>
</sersync>

<plugin name="command">
<param prefix="/bin/sh" suffix="" ignoreError="true"/>
<filter start="false">
<include expression="(.)\.php"/>
<include expression="(.)\.sh"/>
</filter>
</plugin>
<plugin name="socket">
<localpath watch="/opt/tongbu">
<deshost ip="192.168.138.20" port="8009"/>
</localpath>
</plugin>
<plugin name="refreshCDN">
<localpath watch="/data0/htdocs/cms.xoyo.com/site/">
<cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxxx"/>
<sendurl base="http://pic.xoyo.com/cms"/>
<regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>
</localpath>
</plugin>

如上面的xml所示，其中plugin标签设置为true时候，在同步文件或路径到远程之后后，调用插件。通过name参数指定需要执行的插件。目前支持的有command refreshCDN socket http四种插件。http插件目前由于兼容性原因去除，以后会重新加入。

command插件

当文件同步完成后，会调用command插件，如同步文件是test.php，则test.php文件在改动之后，调用rsync同步到远程服务器后，调用command插件，执行

/bin/sh test.php suffix >/dev/null 2>&1

如果suffix 设置了，则会放在inotify事件test.php之后
如果ignoreError为true，则会添加>/dev/null 2>&1
当然还可以设置command的filter，当filter为ture，include可以只对正则匹配到的文件，调用command。

刷新CDN插件

“refreshCDN”，就在同步过程中将文件发送到目的服务器后刷新cdn接口。如果不想使用，则将start属性设为false即可。如果需要使用其他插件，则查看其他plugin标签，将插件名称改为 xml中其它插件的名称即可。

以下模块（refreshCDN http socket）可以单独使用，只需在命令行下使用-m 参数即可。如果需要作为插件与同步程序一起使用，见同步程序说明的插件配置。

该模块根据chinaCDN的协议，进行设计，当有文件产生的时候，就向cdn接口发送需要刷新的路径位置。刷新CDN模块需要配置的xml文件如下。

<localpath watch="/data0/htdocs/cms.xoyo.com/site/">
<cdninfo domainname="ccms.chinacache.com" port="80" username="xxxx" passwd="xxxx"/>
<sendurl base="http://pic.xoyo.com/cms"/>
<regexurl regex="false" match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>
</localpath>
</plugin>

其中 localpath watch 是需要监控的目录。

cdnifo标签制定了cdn接口的域名，端口号，以及用户名与密码。

sendurl标签是需要刷新的url的前缀。

regexurl标签中的，regex属性为true时候，使用match属性的正则语句匹配inotify返回的路径信息，并将正则匹配到的部分作为url一部分，

举例：

如果产生文件事件为：/data0/htdoc/cms.xoyo.com/site/jx3.xoyo.com/image/a/123.txt

经过上面的match正则匹配后，最后刷新的路径是:

http://pic.xoyo.com/cms/jx3/a/123.txt;

如果regex属性为false，最后刷新的路径是

http://pic.xoyo.com/cms/jx3.xoyo.com/images/a/123.txt;

socket插件

socket插件，开启该模块，则向指定ip与端口发送inotify所产生的文件路径信息：

Http插件

http插件，可以向指定域名的主机post,inotify监控的事件

其中mask是事件掩膜，8为修改保存，其它inotify事件掩码，见google。

单独运行插件

插件也可以单独使用，即不对远程目标机进行同步，直接调用插件:

只调用command插件

./sersync -d -m command

只调用refreshCDN插件

./sersync -d -m refreshCDN

只调用socket插件

./sersync -d -m socket

只调用http插件

./sersync -d -m http

		自动登录	找回密码
密码			注册