第8章 理解內(nèi)存

理解Redis內(nèi)存消耗,管理和優(yōu)化。

1. 內(nèi)存消耗

1.1 內(nèi)存使用統(tǒng)計(jì)

通過info memory命令獲取內(nèi)存相關(guān)指標(biāo),重點(diǎn)指標(biāo):

used_memory_rss  //操作系統(tǒng)角度Redis進(jìn)程占用的物理內(nèi)存總量
used_memory     //Redis內(nèi)部存儲的所有數(shù)據(jù)內(nèi)存占用量
mem_fragmentation_ratio    //內(nèi)存碎片率 >1時(shí)說明多出的內(nèi)存被內(nèi)存碎片消耗,<1時(shí)則要注意操作系統(tǒng)swap到硬盤

1.2 內(nèi)存消耗劃分

Redis內(nèi)存消耗劃分.jpg
  • 對象內(nèi)存:存儲用戶所有key-value數(shù)據(jù)
  • 緩沖內(nèi)存:客戶端緩沖,復(fù)制積壓緩沖區(qū),AOF緩沖區(qū)
  • 內(nèi)存碎片:默認(rèn)內(nèi)存分配器:jemalloc

1.3 子進(jìn)程內(nèi)存消耗

  • Redis產(chǎn)生的子進(jìn)程并不需要1倍的父進(jìn)程內(nèi)存(copy-on-write),實(shí)際消耗根據(jù)寫入命令量決定
  • 需要設(shè)置sysctl vm.overcommit_memory=1允許內(nèi)核可以分配所有物理內(nèi)存,放置fork失敗
  • 排查當(dāng)前系統(tǒng)是否開啟THP,建議關(guān)閉,防止內(nèi)存過度消耗

2. 內(nèi)存管理

2.1 設(shè)置內(nèi)存上限

  • 用于緩存場景,超出上限時(shí)使用LRU釋放空間
  • 防止所用內(nèi)存超過服務(wù)器物理內(nèi)存

2.2 動態(tài)調(diào)整內(nèi)存上限

config set maxmemory

動態(tài)修改內(nèi)存,伸縮配置

2.3 內(nèi)存回收策略

  • 刪除到達(dá)過期時(shí)間的鍵對象:惰性刪除(客戶端讀取時(shí)檢查刪除)/定時(shí)任務(wù)刪除
  • 內(nèi)存溢出控制策略:
    1. noeviction:默認(rèn),拒絕寫入
    2. volatile-lru:LRU刪除超時(shí)鍵
    3. allkeys-lru:LRU刪除所有鍵
    4. allkeys-random:隨機(jī)刪除所有鍵
    5. volatile-random:隨機(jī)刪除過期鍵
    6. volatile-ttl:刪除最近將要過期數(shù)據(jù)

注意:頻繁執(zhí)行回收內(nèi)存成本很高,如果有從節(jié)點(diǎn)會同步,導(dǎo)致寫放大

3. 內(nèi)存優(yōu)化

3.1 redisObject對象

redisObject內(nèi)部結(jié)構(gòu).jpg
  • type:數(shù)據(jù)類型
  • encoding:內(nèi)部編碼類型
  • lru:最后一次被訪問的時(shí)間
  • refcount字段:記錄當(dāng)前對象被引用的次數(shù)
  • *ptr字段:與對象的數(shù)據(jù)內(nèi)容相關(guān)

3.2 縮減鍵值對象

降低Redis內(nèi)存使用最直接的方法:縮減key和value的長度
選擇高效的序列化工具

3.3 共享對象池

共享對象池是指Redis內(nèi)部維護(hù)[0-9999]整數(shù)對象池。創(chuàng)建大量的整數(shù)類型redisObject存在內(nèi)存開銷。
使用共享對象池,相同的數(shù)據(jù)內(nèi)存使用降低30%以上。

3.4 字符串優(yōu)化

Redis有自己內(nèi)部的動態(tài)字符串:


字符串結(jié)構(gòu)體SDS.jpg

由于預(yù)分配機(jī)制,同樣的數(shù)據(jù)追加后內(nèi)存消耗非常嚴(yán)重。(追加后預(yù)分配一倍容量)
字符串重構(gòu):對json這種,可以使用hash這樣的二級結(jié)構(gòu)來饑餓省內(nèi)存,支持字段的部分讀取修改

3.5 編碼優(yōu)化

不同編碼實(shí)現(xiàn)效率和空間的平衡
編碼類型轉(zhuǎn)換過程不可逆,只能從小內(nèi)存編碼向大內(nèi)存編碼轉(zhuǎn)換。

3.6 控制鍵的數(shù)量

hash結(jié)構(gòu)降低鍵數(shù)量分析

  1. 根據(jù)鍵規(guī)模在客戶端通過分組映射到一組hash對象中
  2. hash的field可用于記錄原始key字符串
  3. hash的value保存原始值結(jié)構(gòu)

hash鍵和field鍵的設(shè)計(jì):

  1. 鍵的離散度高時(shí),按照字符串位截取
  2. 鍵離散度低,用哈希算法打散鍵,哈希field存儲鍵的原始值
  3. 盡量減少hash鍵和field的長度,如使用部分鍵內(nèi)容
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,565評論 6 539
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 99,115評論 3 423
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 177,577評論 0 382
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,514評論 1 316
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 72,234評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 55,621評論 1 326
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,641評論 3 444
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 42,822評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 49,380評論 1 335
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 41,128評論 3 356
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 43,319評論 1 371
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,879評論 5 362
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 44,548評論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,970評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,229評論 1 291
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 52,048評論 3 397
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 48,285評論 2 376

推薦閱讀更多精彩內(nèi)容

  • Redis的內(nèi)存優(yōu)化 聲明:本文內(nèi)容來自《Redis開發(fā)與運(yùn)維》一書第八章,如轉(zhuǎn)載請聲明。 Redis所有的數(shù)據(jù)都...
    meng_philip123閱讀 18,921評論 2 29
  • 參考來源 Redis的內(nèi)存優(yōu)化 Redis所有的數(shù)據(jù)都在內(nèi)存中,而內(nèi)存又是非常寶貴的資源。對于如何優(yōu)化內(nèi)存使用一直...
    秦漢郵俠閱讀 1,298評論 0 2
  • 聲明:本文內(nèi)容來自《Redis開發(fā)與運(yùn)維》一書第八章,如轉(zhuǎn)載請聲明。Redis所有的數(shù)據(jù)都在內(nèi)存中,而內(nèi)存又是非常...
    yoqu閱讀 1,516評論 0 2
  • 第一步,穩(wěn)中求進(jìn),構(gòu)建價(jià)值體系 從08年到18年,從初二到入職半年,從14歲到24歲,我跨了10年,十年真...
    小宇宙_cfd4閱讀 169評論 0 0
  • 2017年5月21日04:30:53, 小滿節(jié)氣開始了。 春蠶 小滿節(jié)氣開始,意味著今年的春蠶可以驗(yàn)收了。 以蠶為...
    十五道閱讀 2,339評論 0 1