狠狠色丁香婷婷综合尤物/久久精品综合一区二区三区/中国有色金属学报/国产日韩欧美在线观看 - 国产一区二区三区四区五区tv

LOGO OA教程 ERP教程 模切知識交流 PMS教程 CRM教程 開發(fā)文檔 其他文檔  
 
網(wǎng)站管理員

【長文】帶你搞明白內(nèi)存數(shù)據(jù)庫Redis

freeflydom
2024年6月21日 8:24 本文熱度 1367

本文使用第一人稱來介紹Redis

一、概述

Redis,英文全稱是Remote Dictionary Server(遠(yuǎn)程字典服務(wù)),是一個開源的使用ANSI C語言編寫、支持網(wǎng)絡(luò)、可基于內(nèi)存亦可持久化的日志型、Key-Value數(shù)據(jù)庫,并提供多種語言的API。

與MySQL數(shù)據(jù)庫不同的是,Redis的數(shù)據(jù)是存在內(nèi)存中的。它的讀寫速度非常快,每秒可以處理超過10萬次讀寫操作。因此redis被廣泛應(yīng)用于緩存,另外,Redis也經(jīng)常用來做分布式鎖。除此之外,Redis支持事務(wù)、持久化、LUA 腳本、LRU 驅(qū)動事件、多種集群方案。

提及我的誕生,我與關(guān)系數(shù)據(jù)庫MySQL之間有著不解之緣。在我尚未降臨這個世界之前,MySQL歷經(jīng)艱辛,伴隨著互聯(lián)網(wǎng)的飛速發(fā)展,它所承載的數(shù)據(jù)量日益龐大,用戶請求也如潮水般洶涌而至。每一次的用戶請求,都化作了對它無盡的讀寫挑戰(zhàn),使得MySQL備受煎熬。特別是在“雙11”、“618”這樣的全民購物狂歡節(jié),對MySQL而言,無疑是難熬的考驗時刻。

后來,MySQL向我透露了一個秘密。它告訴我,其實大多數(shù)的用戶請求都是讀取操作,而且往往都是對同一數(shù)據(jù)的反復(fù)查詢,這導(dǎo)致它不得不花費大量時間進(jìn)行磁盤I/O操作,這無疑是一種巨大的資源浪費。

有人開始深思,是否可以借鑒CPU的工作原理,為數(shù)據(jù)庫也添加一個緩存機制呢?于是,我便應(yīng)運而生,踏上了這個世界的舞臺。

自誕生之初,我便與MySQL結(jié)下了深厚的友誼。我們攜手并肩,共同出現(xiàn)在后端服務(wù)器的舞臺上。每當(dāng)應(yīng)用程序需要從MySQL查詢數(shù)據(jù)時,它們會首先在我這里進(jìn)行登記。當(dāng)再次需要這些數(shù)據(jù)時,它們會首先向我發(fā)出請求。如果我這里有它們所需的數(shù)據(jù),它們便無需再勞煩MySQL;若我這里沒有,它們才會轉(zhuǎn)向MySQL尋求幫助。

如此,我便成為了MySQL的得力助手,與它共同應(yīng)對著日益增長的數(shù)據(jù)挑戰(zhàn)。我們攜手前行,共同書寫著數(shù)據(jù)庫世界的輝煌篇章。

二、支持的數(shù)據(jù)結(jié)構(gòu)

大多數(shù)小伙伴都知道,為了方便使用,我支持以下這五種基本類型:

  • String(字符串)

  • Hash(哈希)

  • List(列表)

  • Set(集合)

  • zset(有序集合)

string

字符串最基礎(chǔ)的數(shù)據(jù)結(jié)構(gòu)。字符串類型的值實際可以是字符串(簡單的字符串、復(fù)雜的字符串(例如JSON、XML))、數(shù)字 (整數(shù)、浮點數(shù)),甚至是二進(jìn)制(圖片、音頻、視頻),但是值最大不能超過512MB。

字符串主要有以下幾個典型使用場景:

  • 緩存功能

  • 計數(shù)

  • 共享Session

  • 限速

hash

哈希類型是指鍵值本身又是一個鍵值對結(jié)構(gòu)。

哈希主要有以下典型應(yīng)用場景:

  • 緩存用戶信息

  • 緩存對象

list

列表(list)類型是用來存儲多個有序的字符串。列表是一種比較靈活的數(shù)據(jù)結(jié)構(gòu),它可以充當(dāng)棧和隊列的角色

列表主要有以下幾種使用場景:

  • 消息隊列

  • 文章列表

set

集合(set)類型也是用來保存多個的字符串元素,但和列表類型不一 樣的是,集合中不允許有重復(fù)元素,并且集合中的元素是無序的。

集合主要有如下使用場景:

  • 標(biāo)簽(tag)

  • 共同關(guān)注

sorted set

有序集合中的元素可以排序。但是它和列表使用索引下標(biāo)作為排序依據(jù)不同的是,它給每個元素設(shè)置一個權(quán)重(score)作為排序的依據(jù)。

有序集合主要應(yīng)用場景:

  • 用戶點贊統(tǒng)計

  • 用戶排序

我還有三種特殊的數(shù)據(jù)結(jié)構(gòu)類型

  • Geospatial

  • Hyperloglog

  • Bitmap

因為我把登記的數(shù)據(jù)都記錄在內(nèi)存中,不用去執(zhí)行慢如蝸牛的I/O操作,所以找我要比找MySQL要省去了不少的時間呢。

可別小瞧這簡單的一個改變,我可為MySQL減輕了不小的負(fù)擔(dān)!隨著程序的運行,我緩存的數(shù)據(jù)越來越多,有相當(dāng)部分時間我都給它擋住了用戶請求,這一下它可樂得清閑自在了!

有了我的加入,網(wǎng)絡(luò)服務(wù)的性能提升了不少,這都?xì)w功于我為數(shù)據(jù)庫擋下了不少的事兒。

三、緩存過期 && 緩存淘汰

不過很快我發(fā)現(xiàn)事情不妙了,我緩存的數(shù)據(jù)都是在內(nèi)存中,可是就算是在服務(wù)器上,內(nèi)存的空間資源還是很有限的,不能無節(jié)制的這么存下去,我得想個辦法,不然吃棗藥丸。

不久,我想到了一個辦法:給緩存內(nèi)容設(shè)置一個超時時間,具體設(shè)置多長交給應(yīng)用程序們?nèi)ピO(shè)置,我要做的就是把過期了的內(nèi)容從我里面刪除掉,及時騰出空間就行了。

超時時間有了,我該在什么時候去干這個清理的活呢?

最簡單的就是定期刪除,我決定100ms就做一次,一秒鐘就是10次!

我清理的時候也不能一口氣把所有過期的都給刪除掉,我這里面存了大量的數(shù)據(jù),要全面掃一遍的話那不知道要花多久時間,會嚴(yán)重影響我接待新的客戶請求的!

時間緊任務(wù)重,我只好隨機選擇一部分來清理,能緩解內(nèi)存壓力就行了。

就這樣過了一段日子,我發(fā)現(xiàn)有些個鍵值運氣比較好,每次都沒有被我的隨機算法選中,每次都能幸免于難,這可不行,這些長時間過期的數(shù)據(jù)一直霸占著不少的內(nèi)存空間!氣抖冷!

我眼里可揉不得沙子!于是在原來定期刪除的基礎(chǔ)上,又加了一招:

那些原來逃脫我隨機選擇算法的鍵值,一旦遇到查詢請求,被我發(fā)現(xiàn)已經(jīng)超期了,那我就絕不客氣,立即刪除。

這種方式因為是被動式觸發(fā)的,不查詢就不會發(fā)生,所以也叫惰性刪除!

可是,還是有部分鍵值,既逃脫了我的隨機選擇算法,又一直沒有被查詢,導(dǎo)致它們一直逍遙法外!而于此同時,可以使用的內(nèi)存空間卻越來越少。

而且就算退一步講,我能夠把過期的數(shù)據(jù)都刪除掉,那萬一過期時間設(shè)置的很長,還沒等到我去清理,內(nèi)存就吃滿了,一樣要吃棗藥丸,所以我還得想個辦法。

我苦思良久,終于憋出了個大招:內(nèi)存淘汰策略,這一次我要徹底解決問題!

我提供了8種淘汰策略供應(yīng)用程序選擇,用于我遇到內(nèi)存不足時該如何決策:

  • volatile-lru:從已設(shè)置過期時間的數(shù)據(jù)集中挑選最近最少使用的數(shù)據(jù)淘汰。
    allkeys-lru:從數(shù)據(jù)集中挑選最近最少使用的數(shù)據(jù)淘汰
    volatile-lfu:從已設(shè)置過期時間的數(shù)據(jù)集挑選使用頻率最低的數(shù)據(jù)淘汰。
    allkeys-lfu:從數(shù)據(jù)集中挑選使用頻率最低的數(shù)據(jù)淘汰。
    volatile-ttl:從已設(shè)置過期時間的數(shù)據(jù)集中挑選將要過期的數(shù)據(jù)淘汰。
    volatile-random:從已設(shè)置過期時間的數(shù)據(jù)集中任意選擇數(shù)據(jù)淘汰。
    allkeys-random:從數(shù)據(jù)集(server.db[i].dict)中任意選擇數(shù)據(jù)淘汰
    no-enviction(驅(qū)逐):禁止驅(qū)逐數(shù)據(jù),這也是默認(rèn)策略。意思是當(dāng)內(nèi)存不足以容納新入數(shù)據(jù)時,新寫入操作就會報錯,請求可以繼續(xù)進(jìn)行,線上任務(wù)也不能持續(xù)進(jìn)行,采用no-enviction策略可以保證數(shù)據(jù)不被丟失。

有了上面幾套組合拳,我再也不用擔(dān)心過期數(shù)據(jù)多了把空間撐滿的問題了~

我為了避免頻繁的觸發(fā)淘汰策略,每次會淘汰掉一批數(shù)據(jù),淘汰的數(shù)據(jù)的大小其實是和置換的大小來確定的,如果置換的數(shù)據(jù)量大,淘汰的肯定也多。
客戶端執(zhí)行一條新命令,導(dǎo)致數(shù)據(jù)庫需要增加數(shù)據(jù)(比如set key value)我會檢查內(nèi)存使用,如果內(nèi)存使用超過max memory,我就會按照置換策略刪除一些key

四、緩存穿透 && 布隆過濾器

我的日子過的還挺舒坦,不過MySQL大哥就沒我這么舒坦了,有時候遇到些煩人的請求,查詢的數(shù)據(jù)不存在,MySQL就要白忙活一場!不僅如此,因為不存在,我也沒法緩存啊,導(dǎo)致同樣的請求來了每次都要去讓MySQL白忙活一場。我作為緩存的價值就沒得到體現(xiàn)啦!這就是人們常說的緩存穿透。

這一來二去,MySQL大哥忍不住了:“唉,兄弟,能不能幫忙想個辦法,把那些明知道不會有結(jié)果的查詢請求給我擋一下”

這時我想到了我的另外一個好朋友:布隆過濾器

我這位朋友別的本事沒有,就擅長從超大的數(shù)據(jù)集中快速告訴你查找的數(shù)據(jù)存不存在(悄悄告訴你,我的這位朋友有一點不靠譜,它告訴你存在的話不能全信,其實有可能是不存在的,不過它他要是告訴你不存在的話,那就一定不存在,同時他也不支持刪除元素)。它是一個連續(xù)的數(shù)據(jù)結(jié)構(gòu),每個存儲位存儲都是一個bit,即0或者1, 來標(biāo)識數(shù)據(jù)是否存在。

五、緩存擊穿 && 緩存雪崩

這之后過了一段時間太平日子,直到那一天···

有一次,MySQL那家伙正優(yōu)哉游哉的摸魚,突然一大堆請求給他懟了過去,給他打了一個措手不及。

一陣忙活之后,MySQL怒氣沖沖的找到了我,“兄弟,咋回事啊,怎么一下子來的這么猛”

我查看了日志,趕緊解釋到:“大哥,實在不好意思,剛剛有一個熱點數(shù)據(jù)到了過期時間,被我刪掉了,不巧的是隨后就有對這個數(shù)據(jù)的大量查詢請求來了,我這里已經(jīng)刪了,所以請求都發(fā)到你那里來了”

“你這干的叫啥事,下次注意點啊”,MySQL大哥一臉不高興的離開了。

這一件小事我也沒怎么放在心上,隨后就拋之腦后了,卻沒曾想幾天之后竟捅了更大的簍子。

那一天,又出現(xiàn)了大量的網(wǎng)絡(luò)請求發(fā)到了MySQL那邊,比上一次的規(guī)模大得多,MySQL大哥一會兒功夫就給干趴下了好幾次!

等了好半天這一波流量才算過去,MySQL才緩過神來。

“老弟,這一次又是什么原因?”,MySQL大哥累的沒了力氣。

“這一次比上一次更不巧,這一次是一大批數(shù)據(jù)幾乎同時過了有效期,然后又發(fā)生了很多對這些數(shù)據(jù)的請求,所以比起上一次這規(guī)模更大了”

MySQL大哥聽了眉頭一皺,“那你倒是想個辦法啊,三天兩頭折磨我,這誰頂?shù)米“。俊?/p>

“其實我也很無奈,這個時間也不是我設(shè)置的,要不我去找應(yīng)用程序說說,讓他把緩存過期時間設(shè)置的均勻一些?至少別讓大量數(shù)據(jù)集體失效”

“走,咱倆一起去”

后來,我倆去找應(yīng)用程序商量了,不僅把鍵值的過期時間隨機了一下,還設(shè)置了熱點數(shù)據(jù)永不過期,這個問題緩解了不少。哦對了,我們還把這兩次發(fā)生的問題分別取了個名字:緩存擊穿和緩存雪崩。

我們終于又過上了舒適的日子···

六、我可以用來干什么

  • 緩存

    這是我應(yīng)用最廣泛地方,基本所有的Web應(yīng)用都會使用我作為緩存,來降低數(shù)據(jù)源壓力,提高響應(yīng)速度。

  • 計數(shù)器

    我天然支持計數(shù)功能,而且計數(shù)性能非常好,可以用來記錄瀏覽量、點贊量等等。

  • 排行榜

    我提供了列表和有序集合數(shù)據(jù)結(jié)構(gòu),合理地使用這些數(shù)據(jù)結(jié)構(gòu)可以很方便地構(gòu)建各種排行榜系統(tǒng)。

  • 社交網(wǎng)絡(luò)

    贊/踩、粉絲、共同好友/喜好、推送、下拉刷新。

  • 消息隊列

    我提供了發(fā)布訂閱功能和阻塞隊列的功能,可以滿足一般消息隊列功能。

  • 分布式鎖

    分布式環(huán)境下,利用我實現(xiàn)分布式鎖,也是我常見的應(yīng)用。


作者: RDIF

出處: http://www.cnblogs.com/huyong/


該文章在 2024/7/16 16:35:47 編輯過
關(guān)鍵字查詢
相關(guān)文章
正在查詢...
點晴ERP是一款針對中小制造業(yè)的專業(yè)生產(chǎn)管理軟件系統(tǒng),系統(tǒng)成熟度和易用性得到了國內(nèi)大量中小企業(yè)的青睞。
點晴PMS碼頭管理系統(tǒng)主要針對港口碼頭集裝箱與散貨日常運作、調(diào)度、堆場、車隊、財務(wù)費用、相關(guān)報表等業(yè)務(wù)管理,結(jié)合碼頭的業(yè)務(wù)特點,圍繞調(diào)度、堆場作業(yè)而開發(fā)的。集技術(shù)的先進(jìn)性、管理的有效性于一體,是物流碼頭及其他港口類企業(yè)的高效ERP管理信息系統(tǒng)。
點晴WMS倉儲管理系統(tǒng)提供了貨物產(chǎn)品管理,銷售管理,采購管理,倉儲管理,倉庫管理,保質(zhì)期管理,貨位管理,庫位管理,生產(chǎn)管理,WMS管理系統(tǒng),標(biāo)簽打印,條形碼,二維碼管理,批號管理軟件。
點晴免費OA是一款軟件和通用服務(wù)都免費,不限功能、不限時間、不限用戶的免費OA協(xié)同辦公管理系統(tǒng)。
Copyright 2010-2025 ClickSun All Rights Reserved