OS: RHEL 6.5 64bit
corosync: 1.4.7 --yum方式安装
pacemaker: 1.1.2 --作为corosync依赖包自动安装
pacemaker是heartbeat发展到3.0独立出来的产物，红帽6.0系列上，使用yum安装corosync，默认会安装pacemaker作为CRM。
pacemaker常用配置工具：crmsh pcs
crmsh需要独立安装rpm包
主要配置文件：
/etc/corosync/corosync.conf /etc/crm/crm.conf
实验主机：A B
资源 RA提供方(crm->ra->classes;crm->ra->info XXX) webip ocf:heartbeat:Ipaddr2 webfs ocf:heartbeat:Filesystem webdb lsb:mysqld apache ocf:heartbeat:apache(params比较多)
定义资源：
crm->configure->group/primitive
primitive apache ocf:heartbeat:apache \ params configfile="/usr/local/apache2/conf/httpd.conf" \ httpd="/usr/local/apache2/bin/httpd" \ port="80" statusurl="http://127.0.0.1/server-status" \ op monitor timeout=20s interval=10s \ op start timeout=40s \ op stop timeout=60s \ op status timeout=30s
定义约束：
crm->configure->colocation/order/其他
order start_order Mandatory: webfs:start webdb:start apache:start 关键字 ID kind或者分数：[资源ID:选项]..
展示配置：
crm->configure->show/show xml
编辑配置文件：
crm->configure->edit
注：配置完成请先执行verify命令，再执行commit
standby/online:
crm->node->standby [node名，默认为本地节点] /online
监控：
crm->status
crm_mon
重要的地方：
1.请在一台主机上启动和停止本地和其他节点（ssh互信方式）的corosync服务！否则有可能出现脑裂的情况。（在实验中，在A节点进行先启后停corosync服务再启操作后，出现了与B节点资源争用的情况；而在B节点上通过SSH启动A节点服务，则没有出现资源争用，原因不明。）
2.双机情况下应配置票数不足时集群策略，如：
crm->configure->property no-quorum-policy=ignore
否则资源将无法切换
有趣的地方：
本次实验中，我使用了共享文件系统/share下的目录www作为web服务器虚拟地址的DocumentRoot:
<VirtualHost *:80> ServerAdmin webmaster@dummy-host.example.com DocumentRoot "/share/www/" ServerName www.test.kc ServerAlias test.kc ErrorLog "logs/test.kc-error_log" CustomLog "logs/test.kc-access_log" common </VirtualHost>
在实验过程对主机服务多次启停的操作过程中，多次出现了资源apache无法正常启动，并标注为unmanaged，而其他资源能够成功切换的情况：
Online: [ ha-test1 ha-test2 ] webip (ocf::heartbeat:IPaddr2): Started ha-test2 webfs (ocf::heartbeat:Filesystem): Started ha-test2 webdb (lsb:mysqld): Started ha-test2 apache (lsb:apache2): FAILED ha-test1 (unmanaged) Failed actions: apache_stop_0 on ha-test1 'unknown error' (1): call=611, status=complete, last-rc-change='Sun Jan 1 17:51:51 2017', queued=0ms, exec=51ms apache_stop_0 on ha-test1 'unknown error' (1): call=611, status=complete, last-rc-change='Sun Jan 1 17:51:51 2017', queued=0ms, exec=51ms
接下来怎么做呢？
首先执行service corosync stop，会一直提示unload，猜想原因是因为共享文件系统挂载在A节点，而apache服务运行在B节点，B节点上执行apache服务的stop操作，会因为找不到配置文件中配置的共享文件存储路径而报错，无法完成stop操作：
Syntax error on line 66 of /usr/local/apache2/conf/httpd.conf: DocumentRoot must be a directory
于是我只能想到用杀进程的方式来强制停止corosync了：
ps -ef | grep corosync | grep -v grep |awk '{print $2}' | xargs kill -9后来我一想，既然找不到该路径，导致关不掉apache，那我给他mkdir一个本地的目录让他找好了，在A/B主机上执行：
mkdir /share/www
再次启动双机的corosync服务时，多次启停操作，apache资源都成功切过去了，再没有出现上面的情况。
不知道算不算解决了问题，欢迎指正。
