分布式存儲(chǔ)MFS構(gòu)建

構(gòu)建環(huán)境:

mfs-master? ? ? ? 192.168.1.170

mfs-matedata? ? ? 192.168.1.171

mfs-chunkserver? 192.168.1.172

mfs-chunkserver? 192.168.1.173

mfs-chunkserver? 192.168.1.174

mfs-client? ? ? ? 192.168.1.175



1、mfs-master配置

[root@localhost ~]#yum install rpm-build gcc gcc-c++ fuse-devel zlib-devel -y

[root@localhost ~]#useradd -M -s /sbin/nologin mfs #運(yùn)行mfs的用戶

[root@localhost ~]#tar -zxvf moosefs-3.0.115.tar.gz

[root@localhost ~]#cd moosefs-3.0.115/

[root@localhost moosefs-3.0.115]#./configure --prefix=/usr/local/mfs --with-default-user=mfs --with-default-group=mfs

[root@localhost moosefs-3.0.115]#make -j 4 && make install

[root@localhost moosefs-3.0.115]# chown -R mfs.mfs /usr/local/mfs/

[root@localhost moosefs-3.0.115]# ln -s /usr/local/mfs/sbin/* /usr/sbin/

[root@localhost moosefs-3.0.115]# ln -s /usr/local/mfs/bin/* /usr/bin/

[root@localhost ~]# chmod a+x /usr/local/mfs/bin/*

[root@localhost ~]# chmod a+x /usr/local/mfs/sbin/*

[root@localhost ~]# cd /usr/local/mfs/etc/mfs/

2、啟動(dòng)master節(jié)點(diǎn)配置文件

[root@localhost mfs]# cp -a mfsmaster.cfg.sample mfsmaster.cfg? #啟動(dòng)master節(jié)點(diǎn)配置文件

[root@localhost mfs]# vim mfsmaster.cfg? #不用更改配置文件,默認(rèn)即可

3、主配置配置文件說明解釋:

WORKING_USER = mfs

WORKING_GROUP = mfs

SYSLOG_IDENT = mfsmaster #在 syslog 中的表示, 說明這是 mfsmaster 產(chǎn)生的

LOCK_MEMORY = 0? # 是否執(zhí)行 mlockall()以避免 mfsmaster 內(nèi)存溢出(默認(rèn)為 0)

NICE_LEVEL = -19 # 運(yùn)行的優(yōu)先級(jí)(默認(rèn)-19, 注意, 這進(jìn)程必須是 root 啟動(dòng) )

DATA_PATH = /usr/local/mfs/var/mfs #數(shù)據(jù)存放路徑,該目錄下有三大類文件

changelog,sessions,stats

EXPORTS_FILENAME = /usr/local/mfs/etc/mfs/mfsexports.cfg #被掛載目錄以及其權(quán)限控制文件的存放位置

BACK_LOGS = 50 #元數(shù)據(jù)的改變?nèi)罩疚募?shù)量(默認(rèn)是 50)

MATOML_LISTEN_HOST = * # 元數(shù)據(jù)日志服務(wù)器監(jiān)聽的 IP 地址(默認(rèn)是*, 代表任何 IP)

MATOML_LISTEN_PORT = 9419 # 元數(shù)據(jù)日志服務(wù)器監(jiān)聽的端口地址, 默認(rèn)是 9419

MATOCS_LISTEN_HOST = * # 用于存儲(chǔ)服務(wù)器(Chunk Server) 連接的 IP 地址

MATOCS_LISTEN_PORT = 9420 # 是存儲(chǔ)服務(wù)器(Chunk server) 連接的端口地址

REPLICATIONS_DELAY_INIT = 300 # 延遲復(fù)制的時(shí)間(默認(rèn)是 300)

CHUNKS_LOOP_MIN_TIME = 300 # chunks 的回環(huán)率

CHUNKS_SOFT_DEL_LIMIT = 10

CHUNKS_WRITE_REP_LIMIT = 2,1,1,4 在一個(gè)循環(huán)里復(fù)制到一個(gè) CHUNK Server 的最大chunks

CHUNKS_READ_REP_LIMIT = 10,5,2,5

MATOCL_LISTEN_PORT = 9421

4、設(shè)置MFS 掛載權(quán)限

[root@localhost mfs]#cp -a mfsexports.cfg.sample mfsexports.cfg # 設(shè)置 MFS 掛載權(quán)限

[root@localhost mfs]# vim mfsexports.cfg

192.168.1.0/24 . rw,alldirs,maproot=0? #最后一行插入,.表示/文件系統(tǒng),rw表示讀寫,alldirs任何目錄允許掛載,maproot登錄root權(quán)限

5、拷貝MFS元數(shù)據(jù)信息文件(初始)

[root@localhost ~]# cd /usr/local/mfs/var/mfs/

[root@localhost mfs]# cp metadata.mfs.empty metadata.mfs

[root@localhost mfs]# mfsmaster start # 啟動(dòng) MFS-Master 服務(wù)

[root@localhost mfs]# netstat -anutp

Active Internet connections (servers and established)

Proto Recv-Q Send-Q Local Address? ? ? ? ? Foreign Address? ? ? ? State? ? ? PID/Program name? ?

tcp? ? ? ? 0? ? ? 0 0.0.0.0:9419? ? ? ? ? ? 0.0.0.0:*? ? ? ? ? ? ? LISTEN? ? ? 4694/mfsmaster? ? ?

tcp? ? ? ? 0? ? ? 0 0.0.0.0:9420? ? ? ? ? ? 0.0.0.0:*? ? ? ? ? ? ? LISTEN? ? ? 4694/mfsmaster? ? ?

tcp? ? ? ? 0? ? ? 0 0.0.0.0:9421? ? ? ? ? ? 0.0.0.0:*? ? ? ? ? ? ? LISTEN? ? ? 4694/mfsmaster

[root@localhost mfs]# pwd

/usr/local/mfs/var/mfs

[root@localhost mfs]# ls

changelog.0.mfs? metadata.mfs.back? metadata.mfs.empty? #metadata.mfs.back完整備份,changelog.0.mfs增量備份

[root@localhost mfs]# mfscgiserv? ? #開啟web監(jiān)控頁面http://192.168.1.170:9425/



1、mfs-matedata配置

[root@localhost ~]#yum install rpm-build gcc gcc-c++ fuse-devel zlib-devel –y

[root@localhost ~]#useradd -M -s /sbin/nologin mfs #運(yùn)行mfs的用戶

[root@localhost ~]#tar -zxvf moosefs-3.0.115.tar.gz

[root@localhost ~]#cd moosefs-3.0.115/

[root@localhost moosefs-3.0.115]#./configure --prefix=/usr/local/mfs --with-default-user=mfs --with-default-group=mfs

[root@localhost moosefs-3.0.115]#make -j 4 && make install

[root@localhost moosefs-3.0.115]# chown -R mfs.mfs /usr/local/mfs/

[root@localhost moosefs-3.0.115]# ln -s /usr/local/mfs/sbin/* /usr/sbin/

[root@localhost moosefs-3.0.115]# ln -s /usr/local/mfs/bin/* /usr/bin/

[root@localhost ~]# chmod a+x /usr/local/mfs/bin/*

[root@localhost ~]# chmod a+x /usr/local/mfs/sbin/*

[root@localhost ~]# cd /usr/local/mfs/etc/mfs/

2、MFS元數(shù)據(jù)服務(wù)配置文件

[root@localhost ~]cp mfsmetalogger.cfg.sample mfsmetalogger.cfg # 拷貝 MFS元數(shù)據(jù)服務(wù)配置文件

[root@localhost ~]vim mfsmetalogger.cfg

39? META_DOWNLOAD_FREQ = 2? ? ? ? ? # 設(shè)置完整同步間隔為 2 小時(shí)

52? MASTER_HOST = 192.168.1.170? ? # 設(shè)置 MFS-Master 服務(wù)器 IP 地址

[root@localhost ~]mfsmetalogger start # 啟動(dòng) MFS-Logger 服務(wù)

[root@localhost mfs]# netstat -anutp | grep 9419

tcp? ? ? ? 0? ? ? 0 192.168.1.250:60132? ? 192.168.1.170:9419? ? ? ESTABLISHED 10490/mfsmetalogger

[root@localhost mfs]# cd /usr/local/mfs/var/mfs/? ? #同步master元數(shù)據(jù)信息


1、mfs-chunkserver配置

1)添加硬盤并分區(qū)

[root@localhost ~]# fdisk /dev/sdb

[root@localhost ~]# mkfs.ext4 /dev/sdb1? #格式化分區(qū)

[root@localhost ~]# mkdir /mfs? ? ? ? ? #創(chuàng)建掛載點(diǎn)

[root@localhost ~]#useradd -M -s /sbin/nologin mfs #運(yùn)行mfs的用戶

[root@localhost mfs]# chown -R mfs.mfs /mfs

[root@localhost ~]# mount /dev/sdb1 /mfs

[root@localhost mfs]# chown -R mfs.mfs /mfs

2)mfs-chunkserver配置

[root@localhost ~]#yum install rpm-build gcc gcc-c++ fuse-devel zlib-devel -y

[root@localhost ~]#tar -zxvf moosefs-3.0.115.tar.gz

[root@localhost ~]#cd moosefs-3.0.115/

[root@localhost moosefs-3.0.115]#./configure --prefix=/usr/local/mfs --with-default-user=mfs --with-default-group=mfs

[root@localhost moosefs-3.0.115]#make -j 4 && make install

[root@localhost moosefs-3.0.115]# chown -R mfs.mfs /usr/local/mfs/

[root@localhost moosefs-3.0.115]# ln -s /usr/local/mfs/sbin/* /usr/sbin/

[root@localhost moosefs-3.0.115]# ln -s /usr/local/mfs/bin/* /usr/bin/

[root@localhost ~]# chmod a+x /usr/local/mfs/bin/*

[root@localhost ~]# chmod a+x /usr/local/mfs/sbin/*

[root@localhost ~]# cd /usr/local/mfs/etc/mfs/

2、拷貝Chunkserver配置文件

[root@localhost mfs]# cp mfschunkserver.cfg.sample mfschunkserver.cfg # 拷貝 Chunkserver 配置文件

[root@localhost mfs]# vim mfschunkserver.cfg

33 # HDD_CONF_FILENAME = /usr/local/mfs/etc/mfs/mfshdd.cfg? ? ? ? #指定提供存儲(chǔ)的配置文件位置

90? MASTER_HOST = 192.168.1.170? ? ? ? ? ? ? #指定 MFS-Master 服務(wù)器地址

93 MASTER_PORT = 9420? ? ? ? ? ? ? ? ? ? ? ? #指定 MFS-Master 服務(wù)器端口

[root@localhost mfs]# cp -a mfshdd.cfg.sample mfshdd.cfg

[root@localhost mfs]#vim /usr/local/mfs/etc/mfs/mfshdd.cfg # 修改 MFS 服務(wù) HDD 路徑

/mfs? ? ? #最后一行插入掛在點(diǎn)

[root@localhost mfs]mfschunkserver start # 啟動(dòng) MFSChunkserver

[root@localhost mfs]# netstat -anutp | grep 9422

tcp? ? ? ? 0? ? ? 0 0.0.0.0:9422? ? ? ? ? ? 0.0.0.0:*? ? ? ? ? ? ? LISTEN? ? ? 6385/mfschunkserver

http://192.168.1.170:9425/查看mfs-chunkserver磁盤信息



mfs-client配置

[root@localhost ~]#yum install rpm-build gcc gcc-c++ fuse-devel zlib-devel –y

[root@localhost ~]#tar -zxvf moosefs-3.0.115.tar.gz

[root@localhost ~]#cd moosefs-3.0.115/

[root@localhost ~]./configure --prefix=/usr/local/mfs --with-default-user=mfs --with-default-group=mfs--disable-mfsmaster --disable-mfschunkserver

[root@localhost ~]make && make install

[root@localhost ~]#useradd -M -s /sbin/nologin mfs #運(yùn)行mfs的用戶

[root@localhost moosefs-3.0.115]# chown -R mfs.mfs /usr/local/mfs/

[root@localhost moosefs-3.0.115]# ln -s /usr/local/mfs/sbin/* /usr/sbin/

[root@localhost moosefs-3.0.115]# ln -s /usr/local/mfs/bin/* /usr/bin/

[root@localhost moosefs-3.0.115]mkdir /mnt/mfsclient? ? #創(chuàng)建掛載點(diǎn)

[root@localhost moosefs-3.0.115]mfsmount /mnt/mfsclient/ -H 192.168.1.170? #掛載

[root@localhost mfsclient]cd /mnt/mfsclient

[root@localhost mfsclient]touch a.txt

[root@localhost mfsclient]mfsfileinfo a.txt

a.txt:

chunk 0: 0000000000000002_00000001 / (id:2 ver:1)

copy 1: 192.168.1.189:9422 (status:VALID)? ? ? ? ? ? #數(shù)據(jù)存放信息

1)mfs-client誤刪除處理,垃圾回收站機(jī)制

[root@localhost back]# mkdir /back

[root@localhost back]# cd /back

[root@localhost back]# mfsmount -m /back -H 192.168.1.170

[root@localhost back]# cd trash

[root@localhost trash]# yum install tree -y

[root@localhost trash]# tree . >> /root/a.txt? ? ? #tree . 定位刪除文件目錄 /root/a.txt

[root@localhost trash]# mv 007/00000007\|a.txt /back/trash/undel/

mfsgettrashtime 64800 /mnt/mfs/a.txt 設(shè)置保存時(shí)間

mfssettrashtime 64800 /mnt/mfs/a.txt 設(shè)置保存時(shí)間

2) 快照功能

mkdir? /back

chown? mfs.mfs /back

mfsmakesnapshot a.txt /back

cd bb/

3)mfs-client冗余 goal 設(shè)置

mfssetgoal 3 /mnt/mfs/test1?

mfssetgoal? /mnt/mfs/test1

mfsfileinfo? /mnt/mfs/test1

4)mfs-matedata還原master

[root@localhost ~]# cd /usr/local/mfs/var/mfs/

[root@localhost ~]# rm -rf *? #刪除master元數(shù)據(jù)信息

scp /usr/local/mfs/var/mfs/* root@192.168.1.171:/usr/local/mfs/var/mfs/? #mfs-matedata元數(shù)據(jù)信息拷貝到mfs-master

mfsmaster -a

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

推薦閱讀更多精彩內(nèi)容

  • 一、簡(jiǎn)介 MFS一般指MooseFS,分布式文件系統(tǒng),比如谷歌的GFS,Apache的HDFS。 MooseFS ...
    薛琛閱讀 971評(píng)論 0 0
  • 1、搭建mogilefs MogileFS是一個(gè)開源的分布式文件存儲(chǔ)系統(tǒng),由LiveJournal旗下的Danga...
    stephe_c閱讀 1,159評(píng)論 0 1
  • Mfs分布式文件系統(tǒng) 前言:前面我們學(xué)習(xí)過NFS,以及虛擬化課程的時(shí)候我們學(xué)習(xí)過openfiler,這兩個(gè)都是屬于...
    李偉銘MIng閱讀 638評(píng)論 0 2
  • 版權(quán)聲明:原創(chuàng)作品,謝絕轉(zhuǎn)載!否則將追究法律責(zé)任。 Mfs分布式文件系統(tǒng) 前言:前面我們學(xué)習(xí)過NFS,以及虛擬化課...
    李偉銘MIng閱讀 951評(píng)論 0 0
  • mfs分布式文件系統(tǒng) 原創(chuàng)作品,允許轉(zhuǎn)載,轉(zhuǎn)載時(shí)請(qǐng)務(wù)必以超鏈接形式標(biāo)明文章原始出處、作者信息和本聲明。否則將追究法...
    jony456123閱讀 661評(píng)論 0 0