今天學(xué)習(xí)這個(gè)東西Elasticsearch。
Elasticsearch是一個(gè)搜索引擎,建立在Lucene之上,Lucene是一個(gè)全文搜索引擎庫,最先進(jìn)的,豐富特點(diǎn)的搜索引擎
庫。
Lucene只是一個(gè)庫,要駕馭它,你需要用java集成Lucene,
更糟糕的是,你需要了解信息搜索如何工作的,Lucene很復(fù)雜。
(PS:不懂Lucene,只會(huì)用還不是盲人一個(gè)么)
Elasticsearch使用Lucene,提供全文搜索,隱藏Lucene的復(fù)雜性。
Elasticsearch同時(shí)也是一個(gè):
分布式,實(shí)時(shí)文檔存儲(chǔ),每個(gè)域都被索引,可以被搜素。
一個(gè)分布式的搜索引擎,可以實(shí)時(shí)分析。
可以擴(kuò)展到數(shù)百臺(tái)服務(wù)器,巨大的數(shù)據(jù)。集成在一個(gè)獨(dú)立的服務(wù)器,你可以通過REST風(fēng)格的API來訪問。
很容易上手,對(duì)新手隱藏了復(fù)雜的搜索理論,你很快就掌握它。
ElasticSearch的一些概念:
集群 (cluster)
在一個(gè)分布式系統(tǒng)里面,可以通過多個(gè)elasticsearch運(yùn)行實(shí)例組成一個(gè)集群,這個(gè)集群里面有一個(gè)節(jié)點(diǎn)叫做主節(jié)點(diǎn)(master),elasticsearch是去中心化的,所以這里的主節(jié)點(diǎn)是動(dòng)態(tài)選舉出來的,不存在單點(diǎn)故障。
在同一個(gè)子網(wǎng)內(nèi),只需要在每個(gè)節(jié)點(diǎn)上設(shè)置相同的集群名,elasticsearch就會(huì)自動(dòng)的把這些集群名相同的節(jié)點(diǎn)組成一個(gè)集群。節(jié)點(diǎn)和節(jié)點(diǎn)之間通訊以及節(jié)點(diǎn)之間的數(shù)據(jù)分配和平衡全部由elasticsearch自動(dòng)管理。
在外部看來elasticsearch就是一個(gè)整體。
節(jié)點(diǎn)(node)
每一個(gè)運(yùn)行實(shí)例稱為一個(gè)節(jié)點(diǎn),每一個(gè)運(yùn)行實(shí)例既可以在同一機(jī)器上,也可以在不同的機(jī)器上.所謂運(yùn)行實(shí)例,就是一個(gè)服務(wù)器進(jìn)程.在測(cè)試環(huán)境內(nèi),可以在一臺(tái)服務(wù)器上運(yùn)行多個(gè)服務(wù)器進(jìn)程,在生產(chǎn)環(huán)境建議每臺(tái)服務(wù)器運(yùn)行一個(gè)服務(wù)器進(jìn)程
索引(index)
這里的索引是名詞不是動(dòng)詞,在elasticsearch里面支持多個(gè)索引。類似于關(guān)系數(shù)據(jù)庫里面每一個(gè)服務(wù)器可以支持多個(gè)數(shù)據(jù)庫一樣。在每一索引下面又支持多種類型,類似于關(guān)系數(shù)據(jù)庫里面的一個(gè)數(shù)據(jù)庫可以有多張表。但是本質(zhì)上和關(guān)系數(shù)據(jù)庫有很大的區(qū)別。這里暫時(shí)可以這么理解
分片(shards)
把一個(gè)索引分解為多個(gè)小的索引,每一個(gè)小的索引叫做分片。分片后就可以把各個(gè)分片分配到不同的節(jié)點(diǎn)中
副本(replicas)
每一個(gè)分片可以有0到多個(gè)副本,每個(gè)副本都是分片的完整拷貝,可以用來增加速度,同時(shí)也可以提高系統(tǒng)的容錯(cuò)性,一旦某個(gè)節(jié)點(diǎn)數(shù)據(jù)損壞,其他節(jié)點(diǎn)可以代替他.
介紹下es的幾個(gè)概念:
cluster
代表一個(gè)集群,集群中有多個(gè)節(jié)點(diǎn),其中有一個(gè)為主節(jié)點(diǎn),這個(gè)主節(jié)點(diǎn)是可以通過選舉產(chǎn)生的,主從節(jié)點(diǎn)是對(duì)于集群內(nèi)部來說的。es的一個(gè)概念就是去中心化,字面上理解就是無中心節(jié)點(diǎn),這是對(duì)于集群外部來說的,因?yàn)閺耐獠縼砜磂s集群,在邏輯上是個(gè)整體,你與任何一個(gè)節(jié)點(diǎn)的通信和與整個(gè)es集群通信是等價(jià)的。
shards
代表索引分片,es可以把一個(gè)完整的索引分成多個(gè)分片,這樣的好處是可以把一個(gè)大的索引拆分成多個(gè),分布到不同的節(jié)點(diǎn)上。構(gòu)成分布式搜索。分片的數(shù)量只能在索引創(chuàng)建前指定,并且索引創(chuàng)建后不能更改。
replicas
代表索引副本,es可以設(shè)置多個(gè)索引的副本,副本的作用一是提高系統(tǒng)的容錯(cuò)性,當(dāng)個(gè)某個(gè)節(jié)點(diǎn)某個(gè)分片損壞或丟失時(shí)可以從副本中恢復(fù)。二是提高es的查詢效率,es會(huì)自動(dòng)對(duì)搜索請(qǐng)求進(jìn)行負(fù)載均衡。
recovery
代表數(shù)據(jù)恢復(fù)或叫數(shù)據(jù)重新分布,es在有節(jié)點(diǎn)加入或退出時(shí)會(huì)根據(jù)機(jī)器的負(fù)載對(duì)索引分片進(jìn)行重新分配,掛掉的節(jié)點(diǎn)重新啟動(dòng)時(shí)也會(huì)進(jìn)行數(shù)據(jù)恢復(fù)。
river
代表es的一個(gè)數(shù)據(jù)源,也是其它存儲(chǔ)方式(如:數(shù)據(jù)庫)同步數(shù)據(jù)到es的一個(gè)方法。它是以插件方式存在的一個(gè)es服務(wù),通過讀取river中的數(shù)據(jù)并把它索引到es中,官方的river有couchDB的,RabbitMQ的,Twitter的,Wikipedia的,river這個(gè)功能將會(huì)在后面的文件中重點(diǎn)說到。
gateway
代表es索引的持久化存儲(chǔ)方式,es默認(rèn)是先把索引存放到內(nèi)存中,當(dāng)內(nèi)存滿了時(shí)再持久化到硬盤。當(dāng)這個(gè)es集群關(guān)閉再重新啟動(dòng)時(shí)就會(huì)從gateway中讀取索引數(shù)據(jù)。es支持多種類型的gateway,有本地文件系統(tǒng)(默認(rèn)),分布式文件系統(tǒng),Hadoop的HDFS和amazon的s3云存儲(chǔ)服務(wù)。
discovery.zen
代表es的自動(dòng)發(fā)現(xiàn)節(jié)點(diǎn)機(jī)制,es是一個(gè)基于p2p的系統(tǒng),它先通過廣播尋找存在的節(jié)點(diǎn),再通過多播協(xié)議來進(jìn)行節(jié)點(diǎn)之間的通信,同時(shí)也支持點(diǎn)對(duì)點(diǎn)的交互。
Transport
代表es內(nèi)部節(jié)點(diǎn)或集群與客戶端的交互方式,默認(rèn)內(nèi)部是使用tcp協(xié)議進(jìn)行交互,同時(shí)它支持http協(xié)議(json格式)、thrift、servlet、memcached、zeroMQ等的傳輸協(xié)議(通過插件方式集成)。
更多詳細(xì)信息可以在Elasticsearch 權(quán)威指南(中文版)