自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

關(guān)于Redis、ZooKeeper等分布式鎖原理的一些思考

存儲(chǔ) 存儲(chǔ)軟件 分布式 Redis
首先分布式鎖和我們平常講到的鎖原理基本一樣,目的就是確保,在多個(gè)線程并發(fā)時(shí),只有一個(gè)線程在同一刻操作這個(gè)業(yè)務(wù)或者說方法、變量。

 首先分布式鎖和我們平常講到的鎖原理基本一樣,目的就是確保,在多個(gè)線程并發(fā)時(shí),只有一個(gè)線程在同一刻操作這個(gè)業(yè)務(wù)或者說方法、變量。

[[325805]]

在一個(gè)進(jìn)程中,也就是一個(gè)jvm 或者說應(yīng)用中,我們很容易去處理控制,在jdk java.util 并發(fā)包中已經(jīng)為我們提供了這些方法去加鎖, 比如synchronized 關(guān)鍵字 或者Lock 鎖,都可以處理。

但是我們現(xiàn)在的應(yīng)用程序如果只部署一臺(tái)服務(wù)器,那并發(fā)量是很差的,如果同時(shí)有上萬的請(qǐng)求那么很有可能造成服務(wù)器壓力過大,而癱瘓。

想想雙十一 和 三十晚上十點(diǎn)分支付寶紅包等業(yè)務(wù)場(chǎng)景,自然需要用到多臺(tái)服務(wù)器去同時(shí)處理這些業(yè)務(wù),那么這些服務(wù)可能會(huì)有上百臺(tái)同時(shí)處理,

但是請(qǐng)我們大家想一想,如果有100臺(tái)服務(wù)器 要處理分紅包的業(yè)務(wù),現(xiàn)在假設(shè)有1億的紅包,1千萬個(gè)人分,金額隨機(jī),那么這個(gè)業(yè)務(wù)場(chǎng)景下是不是必須確保這1千萬個(gè)人最后分的紅包金額總和等于1億。

如果處理不好每人分到100萬,那馬云爸爸估計(jì)大年初一,就得宣布破產(chǎn)了

1,常規(guī)鎖會(huì)造成什么情況?

首先說一下我們?yōu)槭裁匆慵海唵卫斫饩褪?,需求?請(qǐng)求并發(fā)量)變大了,一個(gè)工人處理能力有限,那就多招一些工人來一起處理。

假設(shè)1千萬個(gè)請(qǐng)求平均分配到100臺(tái)服務(wù)器上,每個(gè)服務(wù)器 接收10w的請(qǐng)求(這10w個(gè)請(qǐng)求并不是在同一秒中來的,可能是在1,2個(gè)小時(shí)內(nèi),可以聯(lián)想下我們?nèi)砩祥_紅包,等到10.20開始,有的人立馬開了,有的人是不是等到12點(diǎn)了才想起來~)

那這樣的話,平均到每一秒上的請(qǐng)求也就不到1千個(gè),這種壓力一般的服務(wù)器還是可以承受的。

第一個(gè)請(qǐng)求到來后,是不是需要在1億里面給他分一部分錢,金額隨機(jī),假設(shè)第一個(gè)人分到了100,那是不是要在這1億中減去100塊,剩下99999900 塊~

第二個(gè)用戶再來分,金額隨機(jī),這次分200塊,那是不是就需要在剩下的99999900塊中再減去200塊,剩下99999700 塊。

等到第10w個(gè)用戶來,一看還有1000w,那這1000w全成他的了。

等于是在每個(gè)服務(wù)器中去分1億,也就是10w個(gè)用戶分了一個(gè)億,最后總計(jì)有100個(gè)服務(wù)器,要分100億。

如果真這樣了,雖說馬云爸爸不會(huì)破產(chǎn)(據(jù)最新統(tǒng)計(jì)馬云有2300億人民幣),那分紅包的開發(fā)項(xiàng)目組,以及產(chǎn)品經(jīng)理,可以GG了~

簡化結(jié)構(gòu)圖如下:

 

關(guān)于Redis、ZooKeeper等分布式鎖原理的一些思考

 

2,分布式鎖怎么去處理?

那么為了解決這個(gè)問題,讓1000萬用戶只分1億,而不是100億,這個(gè)時(shí)候分布式鎖就派上用處了。

分布式鎖可以把整個(gè)集群就當(dāng)作是一個(gè)應(yīng)用一樣去處理,那么也就需要這個(gè)鎖,要獨(dú)立于每一個(gè)服務(wù)之外,而不是在服務(wù)里面。

假設(shè)第一個(gè)服務(wù)器接收到用戶1的請(qǐng)求后,那么這個(gè)時(shí)候,他就不能只在自己的應(yīng)用中去判斷還有多少錢可以分了,而需要去外部請(qǐng)求專門負(fù)責(zé)管理這1億紅包的人(服務(wù)),問他:哎,我這里要分100塊,給我100。

管理紅包的妹子(服務(wù))一看,還有1個(gè)億,那好,給你100塊,然后剩下99999900塊。

第二個(gè)請(qǐng)求到來后,被服務(wù)器2獲取,繼續(xù)去詢問,管理紅包的妹子,我這邊要分10塊,管理紅包的妹子先查了下還有99999900,那就說:好,給你10塊。那就剩下99999890塊

等到第1000w個(gè)請(qǐng)求到來后,服務(wù)器100拿到請(qǐng)求,繼續(xù)去詢問,管理紅包的妹子,你要100,妹子翻了翻白眼,對(duì)你說,就剩1塊了,愛要不要,那這個(gè)時(shí)候就只能給你1塊了(1塊也是錢啊,買根辣條還是可以的)。

這些請(qǐng)求編號(hào)1,2不代表執(zhí)行的先后順序,正式的場(chǎng)景下,應(yīng)該是 100臺(tái)服務(wù)器每個(gè)服務(wù)器持有一個(gè)請(qǐng)求去訪問負(fù)責(zé)管理紅包的妹子(服務(wù)),那在管紅包的妹子那里同時(shí)會(huì)接收到100個(gè)請(qǐng)求,這個(gè)時(shí)候就需要在負(fù)責(zé)紅包的妹子那里加個(gè)鎖就可以了(拋繡球),你們100個(gè)服務(wù)器誰拿到鎖(搶到繡球),誰就進(jìn)來和我談,我給你分,其他人就等著去吧。

經(jīng)過上面的分布式鎖的處理后,馬云爸爸終于放心了,決定給紅包團(tuán)隊(duì)每人加一個(gè)雞腿。

簡化的結(jié)構(gòu)圖如下:

 

關(guān)于Redis、ZooKeeper等分布式鎖原理的一些思考

 

3,分布式鎖的實(shí)現(xiàn)有哪些?

說到分布式鎖的實(shí)現(xiàn),還是有很多的,有數(shù)據(jù)庫方式的,有redis分布式鎖,有zookeeper分布式鎖等等

我們?nèi)绻捎胷edis作為分布式鎖,那么上圖中負(fù)“責(zé)紅包的妹子(服務(wù))”,就可以替換成redis,請(qǐng)自行腦補(bǔ)。

3.1,為什么redis可以實(shí)現(xiàn)分布式鎖?

首先redis是單線程的,這里的單線程指的是網(wǎng)絡(luò)請(qǐng)求模塊使用了一個(gè)線程(所以不需考慮并發(fā)安全性),即一個(gè)線程處理所有網(wǎng)絡(luò)請(qǐng)求,其他模塊仍用了多個(gè)線程。

在實(shí)際的操作中過程大致是這樣子的:

服務(wù)器1要去訪問發(fā)紅包的妹子,也就是redis,那么他會(huì)在redis中通過"setnx key value" 操作設(shè)置一個(gè)key 進(jìn)去,value是啥不重要,重要的是要有一個(gè)key,也就是一個(gè)標(biāo)記,而且這個(gè)key你愛叫啥叫啥,只要所有的服務(wù)器設(shè)置的key相同就可以。

假設(shè)我們?cè)O(shè)置一個(gè),如下圖

 

關(guān)于Redis、ZooKeeper等分布式鎖原理的一些思考

 

那么我們可以看到會(huì)返回一個(gè)1,那就代表了成功。

如果再來一個(gè)請(qǐng)求去設(shè)置同樣的key,如下圖:

 

關(guān)于Redis、ZooKeeper等分布式鎖原理的一些思考

 

這個(gè)時(shí)候會(huì)返回0,那就代表失敗了。

那么我們就可以通過這個(gè)操作去判斷是不是當(dāng)前可以拿到鎖,或者說可以去訪問“負(fù)責(zé)發(fā)紅包的妹子”,如果返回1,那我就開始去執(zhí)行后面的邏輯,如果返回0,那就說明已經(jīng)被人占用了,我就要繼續(xù)等待。

當(dāng)服務(wù)器1拿到鎖之后,進(jìn)行了業(yè)務(wù)處理,完成后,還需要釋放鎖,如下圖所示:

 

關(guān)于Redis、ZooKeeper等分布式鎖原理的一些思考

 

刪除成功返回1,那么其他的服務(wù)器就可以繼續(xù)重復(fù)上面的步驟去設(shè)置這個(gè)key,以達(dá)到獲取鎖的目的。

當(dāng)然以上的操作是在redis客戶端直接進(jìn)行的,通過程序調(diào)用的話,肯定就不能這么寫,比如java 就需要通過jedis 去調(diào)用,但是整個(gè)處理邏輯基本都是一樣的

通過上面的方式,我們好像是解決了分布式鎖的問題,但是想想還有沒有什么問題呢??

對(duì),問題還是有的,可能會(huì)有死鎖的問題發(fā)生,比如服務(wù)器1設(shè)置完之后,獲取了鎖之后,忽然發(fā)生了宕機(jī)。

那后續(xù)的刪除key操作就沒法執(zhí)行,這個(gè)key會(huì)一直在redis中存在,其他服務(wù)器每次去檢查,都會(huì)返回0,他們都會(huì)認(rèn)為有人在使用鎖,我需要等。

為了解決這個(gè)死鎖的問題,我們就就需要給key 設(shè)置有效期了。

設(shè)置的方式有2種

1,第一種就是在set完key之后,直接設(shè)置key的有效期 "expire key timeout" ,為key設(shè)置一個(gè)超時(shí)時(shí)間,單位為second,超過這個(gè)時(shí)間鎖會(huì)自動(dòng)釋放,避免死鎖。

這種方式相當(dāng)于,把鎖持有的有效期,交給了redis去控制。如果時(shí)間到了,你還沒有給我刪除key,那redis就直接給你刪了,其他服務(wù)器就可以繼續(xù)去setnx獲取鎖。

2,第二種方式,就是把刪除key權(quán)利交給其他的服務(wù)器,那這個(gè)時(shí)候就需要用到value值了,

比如服務(wù)器1,設(shè)置了value 也就是 timeout 為 當(dāng)前時(shí)間+1 秒 ,這個(gè)時(shí)候服務(wù)器2 通過get 發(fā)現(xiàn)時(shí)間已經(jīng)超過系統(tǒng)當(dāng)前時(shí)間了,那就說明服務(wù)器1沒有釋放鎖,服務(wù)器1可能出問題了,

服務(wù)器2就開始執(zhí)行刪除key操作,并且繼續(xù)執(zhí)行setnx 操作。

但是這塊有一個(gè)問題,也就是,不光你服務(wù)器2可能會(huì)發(fā)現(xiàn)服務(wù)器1超時(shí)了,服務(wù)器3也可能會(huì)發(fā)現(xiàn),如果剛好,服務(wù)器2,setnx操作完成,服務(wù)器3就接著刪除,是不是服務(wù)器3也可以setnx成功了?

那就等于是服務(wù)器2和服務(wù)器3都拿到鎖了,那就問題大了。這個(gè)時(shí)候怎么辦呢?

這個(gè)時(shí)候需要用到 “GETSET key value” 命令了。這個(gè)命令的意思就是獲取當(dāng)前key的值,并且設(shè)置新的值。

假設(shè)服務(wù)器2發(fā)現(xiàn)key過期了,開始調(diào)用 getset 命令,然后用獲取的時(shí)間判斷是否過期,如果獲取的時(shí)間仍然是過期的,那就說明拿到鎖了。

如果沒有,則說明在服務(wù)2執(zhí)行g(shù)etset之前,服務(wù)器3可能也發(fā)現(xiàn)鎖過期了,并且在服務(wù)器2之前執(zhí)行了getset操作,重新設(shè)置了過期時(shí)間。

那么服務(wù)器2就需要放棄后續(xù)的操作,繼續(xù)等待服務(wù)器3釋放鎖或者去監(jiān)測(cè)key的有效期是否過期。

這塊其實(shí)有一個(gè)小問題是,服務(wù)器3已經(jīng)修改了有效期,拿到鎖之后,服務(wù)器2,也修改了有效期,但是沒能拿到鎖,但是這個(gè)有效期的時(shí)間已經(jīng)被在服務(wù)器3的基礎(chǔ)上有增加一些,但是這種影響其實(shí)還是很小的,幾乎可以忽略不計(jì)。

3.2,為什么zookeeper可以實(shí)現(xiàn)分布式鎖?

百度百科是這么介紹的:ZooKeeper是一個(gè)分布式的,開放源碼的分布式應(yīng)用程序協(xié)調(diào)服務(wù),是Google的Chubby一個(gè)開源的實(shí)現(xiàn),是Hadoop和Hbase的重要組件。

那對(duì)于我們初次認(rèn)識(shí)的人,可以理解成ZooKeeper就像是我們的電腦文件系統(tǒng),我們可以在d盤中創(chuàng)建文件夾a,并且可以繼續(xù)在文件夾a中創(chuàng)建 文件夾a1,a2。

那我們的文件系統(tǒng)有什么特點(diǎn)??那就是同一個(gè)目錄下文件名稱不能重復(fù),同樣ZooKeeper也是這樣的。

在ZooKeeper所有的節(jié)點(diǎn),也就是文件夾稱作 Znode,而且這個(gè)Znode節(jié)點(diǎn)是可以存儲(chǔ)數(shù)據(jù)的。

我們可以通過“ create /zkjjj nice” 來創(chuàng)建一個(gè)節(jié)點(diǎn),這個(gè)命令就表示,在跟目錄下創(chuàng)建一個(gè)zkjjj的節(jié)點(diǎn),值是nice。同樣這里的值,和我在前面說的redis中的一樣,沒什么意義,你隨便給。

另外ZooKeeper可以創(chuàng)建4種類型的節(jié)點(diǎn),分別是:

  • 持久性節(jié)點(diǎn)
  • 持久性順序節(jié)點(diǎn)
  • 臨時(shí)性節(jié)點(diǎn)
  • 臨時(shí)性順序節(jié)點(diǎn)

首先說下持久性節(jié)點(diǎn)和臨時(shí)性節(jié)點(diǎn)的區(qū)別,持久性節(jié)點(diǎn)表示只要你創(chuàng)建了這個(gè)節(jié)點(diǎn),那不管你ZooKeeper的客戶端是否斷開連接,ZooKeeper的服務(wù)端都會(huì)記錄這個(gè)節(jié)點(diǎn)。

臨時(shí)性節(jié)點(diǎn)剛好相反,一旦你ZooKeeper客戶端斷開了連接,那ZooKeeper服務(wù)端就不再保存這個(gè)節(jié)點(diǎn)。

再說下順序性節(jié)點(diǎn),順序性節(jié)點(diǎn)是指,在創(chuàng)建節(jié)點(diǎn)的時(shí)候,ZooKeeper會(huì)自動(dòng)給節(jié)點(diǎn)編號(hào)比如0000001 ,0000002 這種的。

最后說下,zookeeper有一個(gè)監(jiān)聽機(jī)制,客戶端注冊(cè)監(jiān)聽它關(guān)心的目錄節(jié)點(diǎn),當(dāng)目錄節(jié)點(diǎn)發(fā)生變化(數(shù)據(jù)改變、被刪除、子目錄節(jié)點(diǎn)增加刪除)等,zookeeper會(huì)通知客戶端。

下面我們繼續(xù)結(jié)合我們上面的分紅包場(chǎng)景,描述下在zookeeper中如何加鎖。

假設(shè)服務(wù)器1,創(chuàng)建了一個(gè)節(jié)點(diǎn) /zkjjj ,成功了,那服務(wù)器1就獲取了鎖,服務(wù)器2再去創(chuàng)建相同的鎖,那么他就會(huì)失敗,這個(gè)時(shí)候他就就只能監(jiān)聽這個(gè)節(jié)點(diǎn)的變化。

等到服務(wù)器1,處理完業(yè)務(wù),刪除了節(jié)點(diǎn)后,他就會(huì)得到通知,然后去創(chuàng)建同樣的節(jié)點(diǎn),獲取鎖處理業(yè)務(wù),再刪除節(jié)點(diǎn),后續(xù)的100臺(tái)服務(wù)器與之類似

注意這里的100臺(tái)服務(wù)器并不是挨個(gè)去執(zhí)行上面的創(chuàng)建節(jié)點(diǎn)的操作,而是并發(fā)的,當(dāng)服務(wù)器1創(chuàng)建成功,那么剩下的99個(gè)就都會(huì)注冊(cè)監(jiān)聽這個(gè)節(jié)點(diǎn),等通知,以此類推。

但是大家有沒有注意到,這里還是有問題的,還是會(huì)有死鎖的情況存在,對(duì)不對(duì)?

當(dāng)服務(wù)器1創(chuàng)建了節(jié)點(diǎn)后掛了,沒能刪除,那其他99臺(tái)服務(wù)器就會(huì)一直等通知,那就完蛋了。。。

這個(gè)時(shí)候呢,就需要用到臨時(shí)性節(jié)點(diǎn)了,我們前面說過了,臨時(shí)性節(jié)點(diǎn)的特點(diǎn)是客戶端一旦斷開,就會(huì)丟失,也就是當(dāng)服務(wù)器1創(chuàng)建了節(jié)點(diǎn)后,如果掛了。

那這個(gè)節(jié)點(diǎn)會(huì)自動(dòng)被刪除,這樣后續(xù)的其他服務(wù)器,就可以繼續(xù)去創(chuàng)建節(jié)點(diǎn),獲取鎖了。

但是我們可能還需要注意到一點(diǎn),就是驚群效應(yīng):舉一個(gè)很簡單的例子,當(dāng)你往一群鴿子中間扔一塊食物,雖然最終只有一個(gè)鴿子搶到食物,但所有鴿子都會(huì)被驚動(dòng)來爭奪,沒有搶到..

就是當(dāng)服務(wù)器1節(jié)點(diǎn)有變化,會(huì)通知其余的99個(gè)服務(wù)器,但是最終只有1個(gè)服務(wù)器會(huì)創(chuàng)建成功,這樣98還是需要等待監(jiān)聽,那么為了處理這種情況,就需要用到臨時(shí)順序性節(jié)點(diǎn)

大致意思就是,之前是所有99個(gè)服務(wù)器都監(jiān)聽一個(gè)節(jié)點(diǎn),現(xiàn)在就是每一個(gè)服務(wù)器監(jiān)聽自己前面的一個(gè)節(jié)點(diǎn)。

假設(shè)100個(gè)服務(wù)器同時(shí)發(fā)來請(qǐng)求,這個(gè)時(shí)候會(huì)在 /zkjjj 節(jié)點(diǎn)下創(chuàng)建 100 個(gè)臨時(shí)順序性節(jié)點(diǎn) /zkjjj/000000001, /zkjjj/000000002,一直到 /zkjjj/000000100,這個(gè)編號(hào)就等于是已經(jīng)給他們?cè)O(shè)置了獲取鎖的先后順序了。

當(dāng)001節(jié)點(diǎn)處理完畢,刪除節(jié)點(diǎn)后,002收到通知,去獲取鎖,開始執(zhí)行,執(zhí)行完畢,刪除節(jié)點(diǎn),通知003~以此類推。

責(zé)任編輯:武曉燕 來源: 博客園
相關(guān)推薦

2021-02-28 07:49:28

Zookeeper分布式

2020-11-16 12:55:41

Redis分布式鎖Zookeeper

2019-07-16 09:22:10

RedisZookeeper分布式鎖

2022-07-25 06:44:19

ZooKeeper分布式鎖

2017-10-24 11:28:23

Zookeeper分布式鎖架構(gòu)

2019-06-19 15:40:06

分布式鎖RedisJava

2024-05-08 10:20:00

Redis分布式

2021-10-25 10:21:59

ZK分布式鎖ZooKeeper

2024-11-28 15:11:28

2021-07-16 07:57:34

ZooKeeperCurator源碼

2017-05-10 08:59:18

分布式系統(tǒng)承載量

2022-10-27 10:44:14

分布式Zookeeper

2021-07-08 09:21:17

ZooKeeper分布式鎖 Curator

2019-11-19 08:47:45

Zookeeper分布式事務(wù)

2017-12-21 07:54:07

2021-06-10 10:02:19

優(yōu)化緩存性能

2020-07-30 09:35:09

Redis分布式鎖數(shù)據(jù)庫

2022-06-16 08:01:24

redis分布式鎖

2023-08-21 19:10:34

Redis分布式

2022-01-06 10:58:07

Redis數(shù)據(jù)分布式鎖
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)