本文主要关于moosefs的介绍及各节安装配置
一、mfs介绍
1.角色
(1)管理服务器managing server (master):管理服务器:负责各个数据存储服务器的管理,文件读写调度,文件空间回收以及恢复,多节点拷贝。
(2)元数据日志服务器Metalogger server(Metalogger):元数据日志服务器: 负责备份master服务器的变化日志文件,文件类型为changelog_ml.*.mfs,以便于在master server出问题的时候接替其进行工作。
(3)数据存储服务器data servers (chunkservers):数据存储服务器:负责连接管理服务器,听从管理服务器调度,提供存储空间,并为客户提供数据传输。
(4)客户机挂载使用client computers:通过fuse内核接口挂接远程管理服务器上所管理的数据存储服务器,.看起来共享的文件系统和本地unix文件系统使用一样的效果。
2.数据读取过程:
(1)client当需要一个数据时,首先向master server发起查询请求;
(1)管理服务器检索自己的数据,获取到数据所在的可用数据服务器位置ip|port|chunkid;
(2)管理服务器将数据服务器的地址发送给客户端;
(3)客户端向具体的数据服务器发起数据获取请求;
(4)数据服务器将数据发送给客户端;
3.数据写过程
(1)当客户端有数据写需求时,首先向管理服务器提供文件元数据信息请求存储地址(元数据信息如:文件名|大小|份数等);
(2)管理服务器根据写文件的元数据信息,到数据服务器创建新的数据块;
(2)数据服务器返回创建成功的消息;
(3)管理服务器将数据服务器的地址返回给客户端(chunkIP|port|chunkid);
(4)客户端向数据服务器写数据;
(7)数据服务器返回给客户端写成功的消息;
(8)客户端将此次写完成结束信号和一些信息发送到管理服务器来更新文件的长度和最后修改时间
二、软件安装
IP地址 | 角色 | 系统 | 备注 |
192.168.115.11 | mfsmaster | Centos7 | |
192.168.115.12 | mfsmetalogger | Centos7 | |
192.168.115.13 | mfschunkserver | Centos7 | |
192.168.115.5 | mfsclient | Centos7 |
软件包:moosefs-ce-2.0.43-1.tar.gz
1. mfsmaster安装
创建用户和组
groupadd mfs useradd -g mfs -s /sbin/nologin mfs
编译安装软件
tar -zxf moosefs-ce-2.0.43-1.tar.gz cd moosefs-ce-2.0.43 ./configure--prefix=/usr/local/mfs --sysconfdir=/usr/local/mfs/etc--localstatedir=/usr/local/mfs/lib --with-default-user=mfs--with-default-group=mfs --disable-mfschunkserver --disable-mfsmount make &&make install
修改/usr/local/mfs/lib/mfs下二进制文件的后缀名
mv /usr/local/mfs/lib/mfs/metadata.mfs.empty /usr/local/mfs/lib/mfs/metadata.mfs
提供配置文件
# cd/usr/local/mfs/etc/mfs # mv mfsmaster.cfg.dist mfsmaster.cfg # mv mfsexports.cfg.dist mfsexports.cfg
mfsmaster.cfg主配置文件可使用默认配置
mfsexports.cfg配置客户端挂载权限
192.168.115.0/24 / rw,alldirs,maproot=0
修改hosts文件
192.168.115.11mfsmaster
2. mfsmetalogger安装
创建用户和组
groupadd mfs useradd -g mfs -s /sbin/nologin mfs
编译安装软件
tar -zxf moosefs-ce-2.0.43-1.tar.gz cd moosefs-ce-2.0.43 # ./configure--prefix=/usr/local/mfs --sysconfdir=/usr/local/mfs/etc--localstatedir=/usr/local/mfs/lib --with-default-user=mfs --with-default-group=mfs--disable-mfschunkserver --disable-mfsmount make &&make install
修改/usr/local/mfs/lib/mfs下二进制文件的后缀名
# mv /usr/local/mfs/lib/mfs/metadata.mfs.empty
提供配置文件
# cd/usr/local/mfs/etc/mfs # mv mfsmetalogger.cfg.dist mfsmetalogger.cfg
修改配置文件
vi mfsmetalogger.cfg MASTER_HOST =mfsmaster #管理服务器 MASTER_PORT = 9419
修改hosts文件
192.168.115.11mfsmaster
3. mfschunkserver安装
创建用户和组
groupadd mfs useradd -g mfs -s /sbin/nologin mfs
编译安装软件
tar -zxf moosefs-ce-2.0.43-1.tar.gz cd moosefs-ce-2.0.43 # ./configure --prefix=/usr/local/mfs --sysconfdir=/usr/local/mfs/etc --localstatedir=/usr/local/mfs/lib--with-default-user=mfs --with-default-group=mfs --disable-mfsmaster make &&make install
提供配置文件
# cd/usr/local/mfs/etc/mfs # mv mfschunkserver.cfg.dist mfschunkserver.cfg # mv mfshdd.cfg.dist mfshdd.cfg
mfschunkserver.cfg:chunkserver主配置文件,连接mfsmaster
mfshdd.cfg:定义chunkserver数据目录
修改配置文件
vi mfschunkserver.cfg MASTER_HOST =mfsmaster #管理服务器 MASTER_PORT = 9420
修改hosts文件
192.168.115.11mfsmaster
创建数据目录
mkdir /data/mfs chown –R mfs.mfs /data/mfs
4. mfsclient安装
编译安装软件
tar -zxf moosefs-ce-2.0.43-1.tar.gz cd moosefs-ce-2.0.43 # ./configure--prefix=/usr/local/mfs --sysconfdir=/usr/local/mfs/etc --localstatedir=/usr/local/mfs/lib --disable-mfsmaster --disable-mfschunkserver --enable-mfsmount make &&make install
修改hosts文件
192.168.115.11mfsmaster
三、启动服务
1.192.168.115.11:mfsmaster
#/usr/local/mfs/sbin/mfsmaster start
说明服务已正常启动
2.192.168.115.12:mfsmetalogger
#/usr/local/mfs/sbin/mfsmetalogger start
3. 192.168.115.13:mfschunkserver
#/usr/local/mfs/sbin/mfschunkserver start
四、客户端挂载
192.168.115.5:mfsclient
#/usr/local/mfs/bin/mfsmount /mnt/mfs/ -H mfsmaster
#/usr/local/mfs/bin/mfsmount -m /mnt/mfs_trash/ -H mfsmaster #挂载回收站
回收站可将在mfs上删除的文件恢复回来,默认保留时长为一天