FastDFS搭建文件管理系統

1.什么是FastDFS?

????????FastDFS是用c語言編寫的一款開源的分布式文件系統。FastDFS為互聯網量身定制,充分考慮了冗余備份、負載均衡、線性擴容等機制,并注重高可用、高性能等指標,使用FastDFS很容易搭建一套高性能的文件服務器集群提供文件上傳、下載等服務。

2.FastDFS架構

????????FastDFS架構包括 Tracker server和Storage server。客戶端請求Tracker server進行文件上傳、下載,通過Tracker server調度最終由Storage server完成文件上傳和下載。

Tracker server作用是負載均衡和調度,通過Tracker server在文件上傳時可以根據一些策略找到Storage server提供文件上傳服務。可以將tracker稱為追蹤服務器或調度服務器。

Storage server作用是文件存儲,客戶端上傳的文件最終存儲在Storage服務器上,Storage server沒有實現自己的文件系統而是利用操作系統 的文件系統來管理文件。可以將storage稱為存儲服務器


????????服務端兩個角色:

????????Tracker:管理集群,tracker也可以實現集群。每個tracker節點地位平等。

收集Storage集群的狀態。FastDFS集群中的Tracker server可以有多臺,Tracker server之間是相互平等關系同時提供服務,Tracker server不存在單點故障。客戶端請求Tracker server采用輪詢方式,如果請求的tracker無法提供服務則換另一個tracker。

????????Storage:實際保存文件,Storage分為多個組,每個組之間保存的文件是不同的。每個組內部可以有多個成員,組成員內部保存的內容是一樣的,組成員的地位是一致的,沒有主從的概念。Storage集群采用了分組存儲方式。storage集群由一個或多個組構成,集群存儲總容量為集群中所有組的存儲容量之和。一個組由一臺或多臺存儲服務器組成,組內的Storage server之間是平等關系,不同組的Storage server之間不會相互通信,同組內的Storage server之間會相互連接進行文件同步,從而保證同組內每個storage上的文件完全一致的。一個組的存儲容量為該組內存儲服務器容量最小的那個,由此可見組內存儲服務器的軟硬件配置最好是一致的。

采用分組存儲方式的好處是靈活、可控性較強。比如上傳文件時,可以由客戶端直接指定上傳到的組也可以由tracker進行調度選擇。一個分組的存儲服務器訪問壓力較大時,可以在該組增加存儲服務器來擴充服務能力(縱向擴容)。當系統容量不足時,可以增加組來擴充存儲容量(橫向擴容)。

3.文件上傳的流程


????????客戶端上傳文件后存儲服務器將文件ID返回給客戶端,此文件ID用于以后訪問該文件的索引信息。文件索引信息包括:組名,虛擬磁盤路徑,數據兩級目錄,文件名。例如:

????????組名:文件上傳后所在的storage組名稱,在文件上傳成功后有storage服務器返回,需要客戶端自行保存。

????????虛擬磁盤路徑:storage配置的虛擬路徑,與磁盤選項store_path*對應。如果配置了store_path0則是M00,如果配置了store_path1則是M01,以此類推。

????????數據兩級目錄:storage服務器在每個虛擬磁盤路徑下創建的兩級目錄,用于存儲數據文件。

????????文件名:與文件上傳時不同。是由存儲服務器根據特定信息生成,文件名包含:源存儲服務器IP地址、文件創建時間戳、文件大小、隨機數和文件拓展名等信息。

4.文件下載的流程


????????tracker根據請求的文件路徑即文件ID 來快速定義文件。比如請求下邊的文件:

????????1.通過組名tracker能夠很快的定位到客戶端需要訪問的存儲服務器組是group1,并選擇合適的存儲服務器提供客戶端訪問。 ?

????????2.存儲服務器根據“文件存儲虛擬磁盤路徑”和“數據文件兩級目錄”可以很快定位到文件所在目錄,并根據文件名找到客戶端需要訪問的文件。

5.FastDFS安裝

5.1FastDFS--tracker安裝

5.1.1FastDFS安裝環境? ? ? ?

?????????FastDFS是C語言開發,建議在linux上運行,本教程使用Centos7作為安裝環境。

????????安裝FastDFS需要先將官網下載的源碼進行編譯,編譯依賴gcc環境,如果沒有gcc環境,需要安裝gcc:

????????yum install gcc-c++

5.1.2安裝libfastcommon

????????下載:下載libfastcommon

????????將libfastcommon.zip復制到linux系統的/usr/local目錄下并解壓:unzip libfastcommon.zip

? ??????cd libfastcommon

????????./make.sh

????????./make.sh install

5.1.3安裝libevent

? ??????FastDFS依賴libevent庫,需要安裝:

????????yum -y install libevent

5.1.4tracker編譯安裝

? ??????將fastdfs.zip拷貝至/usr/local/下并解壓:

????????unzip fastdfs.zip

? ? ? ? cd fastdfs

? ? ? ?編譯: ./make.sh

? ? ? ?安裝:./make.sh install

5.1.5配置

????????cd? /etc/fdfs

????????拷貝一份新的tracker配置文件:

????????cp tracker.conf.sample tracker.conf

????????修改tracker.conf

????????vim tracker.conf

????????base_path=/home/yuqing/FastDFS???

????????改為:

????????base_path=/home/FastDFS

5.1.6啟動tracker

????????/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart

5.2安裝FastDFS--storage

在安裝tracker時已經安裝了libevent與libfastcommon兩個庫。編譯安裝tracker時也已經把storage一同編譯安裝了。

?5.2.1配置storage

? ? ? ? cd? /etc/fdfs

? ??????拷貝一份新的storage配置文件:

????????cp storage.conf.sample storage.conf

????????修改storage.conf

????????vim storage.conf

? ??????group_name=group1

????????base_path=/home/yuqing/FastDFS改為:????????base_path=/home/FastDFS

????????store_path0=/home/yuqing/FastDFS改為:????????store_path0=/home/FastDFS/fdfs_storage

? ??????#如果有多個掛載磁盤則定義多個store_path,如下

????????#store_path1=.....

????????#store_path2=......

????????tracker_server=192.168.xx.xx:22122#配置tracker服務器:IP

????????#如果有多個則配置多個tracker

????????tracker_server=192.168.xx.xx:22122

5.2.2啟動storage

????????/usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart

6.上傳圖片測試

??????? FastDFS安裝成功可通過/usr/bin/fdfs_test測試上傳、下載等操作。?

????????修改/etc/fdfs/client.conf ??

? ??????base_path=/home/fastdfs

????????tracker_server=192.168.xx.xx:22122

? ??????使用格式:

????????/usr/bin/fdfs_test客戶端配置文件地址upload上傳文件

? ??????比如將/home下的圖片上傳到FastDFS中:

????????/usr/bin/fdfs_test /etc/fdfs/client.conf upload /root/picture.jpeg

? ??????http://192.168.xx.xxx/group1/M00/00/00/wKgghFwqIqaAJKEWAAE8SA5LkVU02_big.jpeg就是文件的下載路徑。

? ??????對應stroage服務器上的/home/FastDFS/fdfs_storage/data/00/00/wKgghFwqIqaAJKEWAAE8SA5LkVU02_big.jpeg文件。

? ??????由于現在還沒有和nginx整合無法使用http下載。

7.FastDFS和nginx整合

7.1FastDFS-nginx-module

????????下載FastDFS-nginx-module?

? ? ? ? 將FastDFS-nginx-module.zip傳至/usr/local/下?并解壓

? ? ? ? unzip?fastdfs-nginx-module.zip

? ??????cd FastDFS-nginx-module/src

????????修改config文件將/usr/local/路徑改為/usr/

????????將FastDFS-nginx-module/src下的mod_fastdfs.conf拷貝至/etc/fdfs/下?????????? ? ?

????????cp mod_FastDFS.conf /etc/fdfs/

????????并修改mod_FastDFS.conf的內容:

????????vim /etc/fdfs/mod_FastDFS.conf

????????base_path=/home/FastDFS

????????tracker_server=192.168.xx.xx:22122

????????#tracker_server=192.168.xx.xx:22122(多個tracker配置多行)

????????url_have_group_name=true? #url中包含group名稱

????????store_path0=/home/FastDFS/fdfs_storage #指定文件存儲路徑

????????將libfdfsclient.so拷貝至/usr/lib下

????????cp /usr/lib64/libfdfsclient.so /usr/lib/

????????創建nginx/client目錄

????????mkdir -p /var/temp/nginx/client

?7.2安裝nginx

? ? ? ? 添加FastDFS-nginx-module模塊

? ? ? ? ./configure \

????????--prefix=/usr/local/nginx \

????????--pid-path=/var/run/nginx/nginx.pid \

????????--lock-path=/var/lock/nginx.lock \

????????--error-log-path=/var/log/nginx/error.log \

????????--http-log-path=/var/log/nginx/access.log \

????????--with-http_gzip_static_module \

????????--http-client-body-temp-path=/var/temp/nginx/client \

????????--http-proxy-temp-path=/var/temp/nginx/proxy \

????????--http-fastcgi-temp-path=/var/temp/nginx/fastcgi \

????????--http-uwsgi-temp-path=/var/temp/nginx/uwsgi \

????????--http-scgi-temp-path=/var/temp/nginx/scgi \

????????--add-module=/usr/local/fastdfs-nginx-module/src

? ? ? ? 編譯:make

? ? ? ? 安裝:make install

7.3nginx配置文件

? ????cd /usr/local/nginx

? ? ? ?在nginx.conf方件中添加server:

????????server {

????????????????listen ??????80;

????????????????server_name ?192.168.xx.xx;

????????????????location /group1/M00/{

????????????????????????#root /home/FastDFS/fdfs_storage/data;

????????????????????????ngx_fastdfs_module;

? ? ? ? ????????}

????????}

????? ? ??說明:

????????server_name指定本機ip

????????location /group1/M00/:group1為nginx 服務 FastDFS的分組名稱,M00是FastDFS自動生成編號,對應store_path0=/home/FastDFS/fdfs_storage,如果FastDFS定義store_path1,這里就是M01

?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。

推薦閱讀更多精彩內容