ElasticSearch學習筆記2

shard 和 replica 機制

  • 一個 index 包含多個 shard,primary shard 的數(shù)量是在建立 index 的時候就確定的,不可修改,但是 replica 是可隨時修改的
  • 新建 index 的時候,primary shard 的默認數(shù)量是 5,replica 默認是 1,默認有 10 個 shard,5 個 primary shard,5 個 replica shard
  • 每個 shard 是最小的工作單元,擁有部分的數(shù)據(jù),是一個 Lucene 實例,有建立索引和處理請求的能力
  • 當 node 變化的時候,shard 會在 node 上自動進行負載均衡
  • replica shard 是 primary shard 的副本,負責容錯,以及承擔讀請求負載
  • primary shard 不能和自己的 replica shard 放在同一個節(jié)點上,但是可以和其他 primary shard 的 replica shard 放在同一個節(jié)點上

擴容和容錯性

假設(shè)現(xiàn)在我們有3個node,6個shard,則每個node上分配2個shard,此時最多容忍1臺機器掛了,因為2臺機器有4個shard,能存放下3個primary shard。此時如果我們進行水平擴容,將node變?yōu)?個,則每個node有1個shard,每個shard能使用的IO/CPU/Memory資源更多,性能會更好。
另外假設(shè)我們現(xiàn)在還是3個node,但是將shard變?yōu)?個,則每個node有3個shard,此時雖然每個shard使用的資源少了,但是容錯性提高了,最多能容忍2個node故障,因為剩余的1個node還有3個shard,能包含所有數(shù)據(jù)。

容錯過程分析

  1. 假設(shè)某個master node掛了,此時es通過選舉選舉中新的master節(jié)點,并將丟失的primary shard對應的replica shard提升為primary shard
  2. 重啟故障的node,重啟后,新的master node將數(shù)據(jù)復制到該節(jié)點上,原先的primary node變?yōu)閞eplica node,同步是增量同步

創(chuàng)建index注意

index類似于mysql中的database,mysql中會將不同用途的數(shù)據(jù)放到不同的database中,es也一樣,將同類的(fields基本相同)的document放到一起,這樣帶來的好處是不同index不會相互影響,因為不同index的shard是分類的,這就意味著彼此的shard操作不會影響。舉個例子:
假設(shè)我們有一個book_index,存放了所有的書籍信息,供用戶在線檢索,另外還有一個需求是后臺人員對book信息進行一些統(tǒng)計分析操作,由于這些操作都是非常耗時的,因此如果放在同一個index中,勢必會影響線上瀏覽。

文檔id生成

文檔id的生成有兩種方式:自動和手動。
手動的場景適合:假設(shè)數(shù)據(jù)來源是mysql系統(tǒng),里面有自己的唯一id了,此時es只是輔助mysql進行一些檢索操作,此時就用外部系統(tǒng)的id即可
自動:數(shù)據(jù)就是存在于es中,通過es的GUUID算法保證id的唯一,自動生成的id,長度為20個字符,URL安全,base64編碼,GUID,分布式系統(tǒng)并行生成時不可能會發(fā)生沖突

source元字段

source元字段的內(nèi)容是在我們創(chuàng)建一個document的時候,使用的那個放在request body中的json串,默認情況下,在get的時候,會原封不動的給我們返回回來。
在我們查詢的時候,如果帶上_source參數(shù),就可以定制返回的結(jié)果了。

document的替換、刪除操作

1、document的全量替換

(1)語法與創(chuàng)建文檔是一樣的,如果document id不存在,那么就是創(chuàng)建;如果document id已經(jīng)存在,那么就是全量替換操作,替換document的json串內(nèi)容
(2)document是不可變的,如果要修改document的內(nèi)容,第一種方式就是全量替換,直接對document重新建立索引,替換里面所有的內(nèi)容
(3)es會將老的document標記為deleted,然后新增我們給定的一個document,當我們創(chuàng)建越來越多的document的時候,es會在適當?shù)臅r機在后臺自動刪除標記為deleted的document


2、document的強制創(chuàng)建

(1)創(chuàng)建文檔與全量替換的語法是一樣的,有時我們只是想新建文檔,不想替換文檔,如果強制進行創(chuàng)建呢?
(2)PUT /index/type/id?op_type=create,PUT /index/type/id/_create


3、document的刪除

(1)DELETE /index/type/id
(2)不會理解物理刪除,只會將其標記為deleted,當數(shù)據(jù)越來越多的時候,在后臺自動刪除
(3)當我們刪除完一個document后,再次PUT新建的時候,會在原來deleteverion基礎(chǔ)上再加一

version并發(fā)控制

es通過version來進行樂觀鎖控制,語法是通過在參數(shù)version實現(xiàn)

?version=1
?version=1&version_type=external

version_type=external,唯一的區(qū)別在于,_version,只有當你提供的version與es中的_version一模一樣的時候,才可以進行修改,只要不一樣,就報錯;當version_type=external的時候,只有當你提供的version比es中的_version大的時候,才能完成修改

es,_version=1,?version=1,才能更新成功
es,_version=1,?version>1&version_type=external,才能成功,比如說?version=2&version_type=external

partial update

partial update不需要傳遞整個json對象,而是只需要修改的filed,但是在服務(wù)端執(zhí)行partial update的時候,其實和PUT還是一樣的,都是先去讀document,更新字段后,將老的document標記為刪除,然后創(chuàng)建一個新的document,與全量update不同的是將get。modify。update操作放在了服務(wù)端,這樣子減少了網(wǎng)絡(luò)開銷,提高性能。

partial update的時候是在server進行了樂觀鎖控制,1. 取到version 2.修改后更新,我們可以通過指定retry來聲明重復1,2步驟的次數(shù)。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,517評論 6 539
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 99,087評論 3 423
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 177,521評論 0 382
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,493評論 1 316
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,207評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 55,603評論 1 325
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,624評論 3 444
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 42,813評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 49,364評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 41,110評論 3 356
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,305評論 1 371
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,874評論 5 362
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 44,532評論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,953評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,209評論 1 291
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,033評論 3 396
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,268評論 2 375

推薦閱讀更多精彩內(nèi)容