www.久久久久|狼友网站av天堂|精品国产无码a片|一级av色欲av|91在线播放视频|亚洲无码主播在线|国产精品草久在线|明星AV网站在线|污污内射久久一区|婷婷综合视频网站

當(dāng)前位置:首頁 > 公眾號精選 > 架構(gòu)師社區(qū)
[導(dǎo)讀]作者|孫玄/陳東 分布式系統(tǒng)中,大部分系統(tǒng)調(diào)用都會涉及到負(fù)載均衡,例如:客戶端發(fā)往服務(wù)端的請求首先到達(dá)反向代理,然后反向代理再通過負(fù)載均衡算法將請求轉(zhuǎn)發(fā)到業(yè)務(wù)系統(tǒng);或者后端業(yè)務(wù)系統(tǒng)各模塊間的調(diào)用前,也需要通過負(fù)載均衡算法選擇到一個目標(biāo)節(jié)點。

傳授“帶權(quán)重的負(fù)載均衡實現(xiàn)算法”獨家設(shè)計思路!

作者|孫玄/陳東

分布式系統(tǒng)中,大部分系統(tǒng)調(diào)用都會涉及到負(fù)載均衡,例如:客戶端發(fā)往服務(wù)端的請求首先到達(dá)反向代理,然后反向代理再通過負(fù)載均衡算法將請求轉(zhuǎn)發(fā)到業(yè)務(wù)系統(tǒng);或者后端業(yè)務(wù)系統(tǒng)各模塊間的調(diào)用前,也需要通過負(fù)載均衡算法選擇到一個目標(biāo)節(jié)點。


一般情況下,我們對負(fù)載均衡的要求就是均勻,確保調(diào)用方的請求流量能夠均勻的發(fā)送到我們?nèi)哂嗖渴鸬腘個服務(wù)節(jié)點上,所以負(fù)載均衡的算法一般使用隨機(jī)或輪詢都可以保證被調(diào)用結(jié)點流量的均勻。


真實情況下,往往由于部署服務(wù)的服務(wù)器性能或資源分配等原因需要我們?yōu)榉?wù)結(jié)點設(shè)置不同的權(quán)重,權(quán)重高的結(jié)點可以分配多一些的流量,同時降低權(quán)重低的結(jié)點的流量比例。


這時負(fù)載均衡就不能簡單的使用隨機(jī)或者輪詢了,需要添加對權(quán)重的支持。接下來我們分析幾種帶權(quán)重的負(fù)載均衡算法,并分析一下他們的優(yōu)缺點:

-     使用隨機(jī)數(shù)     -

設(shè)計思路如下:首先經(jīng)過負(fù)載均衡后選擇到一個結(jié)點,然后我們根據(jù)權(quán)重值再做一道攔截,按權(quán)重按比例放行,實現(xiàn)按降低結(jié)點流量的效果。例如我們規(guī)定權(quán)重的范圍從010之間,0拒絕,10放行。權(quán)重值越高,分配的流量就越多。


最簡單的實現(xiàn)方案,可以使用隨機(jī)值,假設(shè)設(shè)置目標(biāo)結(jié)點的權(quán)重值為7,當(dāng)結(jié)點被負(fù)載均衡選中后,我們生成一個010之間的隨機(jī)數(shù),小于7放行,大于7則不向目標(biāo)結(jié)點發(fā)送請求,需要從新做負(fù)載均衡計算,由此實現(xiàn)了將目標(biāo)結(jié)點的流量降低到原來的70%。


方案實現(xiàn)起來很簡單,但問題也很明顯,我們都知道生成隨機(jī)數(shù)的計算會造成CPU的開銷,計算權(quán)重又發(fā)生在RPC調(diào)用過程中,所以每次RPC請求都會額外的增加一次隨機(jī)數(shù)計算,累積起來對CPU額外的開銷就很大了。我們可以進(jìn)一步優(yōu)化一下。

-     隨機(jī)數(shù)組     -

我們可以使用一個隨機(jī)數(shù)組代替上文描述的生成隨機(jī)數(shù)的策略,實現(xiàn)同樣效果的同時能夠減少CPU的計算量。接下來描述下隨機(jī)數(shù)組算法,同樣權(quán)重設(shè)計為0~10。


我們?yōu)槊總€被調(diào)用的結(jié)點都生成一個隨機(jī)數(shù)組,數(shù)組長度為10。空間分配好后用01填充數(shù)組,0的個數(shù)與結(jié)點的權(quán)重值一樣,同時要保證0在數(shù)組中出現(xiàn)的位置是隨機(jī)的。


我們生成一個代表權(quán)重為“4”的隨機(jī)數(shù)組(40)。


和隨機(jī)數(shù)方案類似,我們在完成負(fù)載均衡計算后,進(jìn)行權(quán)重攔截。這個時候我們可以通過訪問隨機(jī)數(shù)組代替生成隨機(jī)數(shù)的計算,方案描述如下:記錄上一次訪問隨機(jī)數(shù)組的位置,取數(shù)組下一位置元素值,取到0則放行,1則拒絕,重新進(jìn)行負(fù)載均衡計算。方案的思路是,輪詢訪問隨機(jī)數(shù)組,到達(dá)隨機(jī)效果。因為數(shù)組的內(nèi)容是隨機(jī)的。


這兩種方案思路是一致的,都是在負(fù)載均衡計算后再加一道權(quán)重攔截。但這樣的問題是流量控制不精確,無法實現(xiàn)精確個節(jié)點按權(quán)重比例分配流量。我們可以換個思路,實現(xiàn)精確的流量控制。


-     輪詢加權(quán)重負(fù)載策略     -

設(shè)計思路如下,設(shè)計一個權(quán)重因子,初始值為所有被調(diào)用的結(jié)點中最大權(quán)重值。負(fù)載均衡使用輪詢算法,被選中結(jié)點權(quán)重值大于等于權(quán)重因子則可以調(diào)用,否則用下一結(jié)點的權(quán)重值與權(quán)重因子比較,一輪循環(huán)結(jié)束后如果沒有選中結(jié)點,則降低權(quán)重因子,繼續(xù)通過與權(quán)重因子比較進(jìn)行選擇,直到選中為止。權(quán)重因子降為0后,恢復(fù)為最大權(quán)重值。


上述偽代碼中幾個變量意義如下:

  • i:當(dāng)前輪詢的結(jié)點;

  • n:可選擇結(jié)點數(shù)量;

  • cw:權(quán)重因子;

  • gcd(s):權(quán)重因子每次降低的步長;

  • max(s):所有結(jié)點中最大的權(quán)重值;

  • W(si):結(jié)點Si的權(quán)重值;

  • Si:服務(wù)結(jié)點(S0~Sn-1,共n個)

權(quán)重因子的降低步長為所有結(jié)點權(quán)重值的最大公約數(shù)。


假設(shè)有4個結(jié)點,AB,C,D,權(quán)重值分別為,86,4,2,各結(jié)點權(quán)重值得最大公約數(shù)為2,所以權(quán)重降低步長為2,通過上面的偽代碼,我們推演下負(fù)載均衡的流量分配結(jié)果。


初始條件:

  • 1、i0開始循環(huán);

  • 2、權(quán)重因子為8(偽代碼中初始化為0,減權(quán)重因子后小于0,被恢復(fù)為最大值)



第一次調(diào)用:i=0,A權(quán)重大于等于權(quán)重因子(8),可以調(diào)用A;

第二次調(diào)用:i=1,B權(quán)重小于8,不可以調(diào)用,繼續(xù)循環(huán);

......

第二次調(diào)用會選擇哪個結(jié)點呢,以及后面的調(diào)用如何選擇的,歡迎大家在評留言給出自己的推演結(jié)果。


另外權(quán)重因子的降低步長為什么是最大公約數(shù)呢?歡迎大家在評論區(qū)交流。

特別推薦一個分享架構(gòu)+算法的優(yōu)質(zhì)內(nèi)容,還沒關(guān)注的小伙伴,可以長按關(guān)注一下:

傳授“帶權(quán)重的負(fù)載均衡實現(xiàn)算法”獨家設(shè)計思路!

長按訂閱更多精彩▼

傳授“帶權(quán)重的負(fù)載均衡實現(xiàn)算法”獨家設(shè)計思路!

如有收獲,點個在看,誠摯感謝

免責(zé)聲明:本文內(nèi)容由21ic獲得授權(quán)后發(fā)布,版權(quán)歸原作者所有,本平臺僅提供信息存儲服務(wù)。文章僅代表作者個人觀點,不代表本平臺立場,如有問題,請聯(lián)系我們,謝謝!

本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內(nèi)容真實性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫毥谦F公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉(zhuǎn)型技術(shù)解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關(guān)鍵字: AWS AN BSP 數(shù)字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認(rèn)證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關(guān)鍵字: 汽車 人工智能 智能驅(qū)動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務(wù)能7×24不間斷運(yùn)行,同時企業(yè)卻面臨越來越多業(yè)務(wù)中斷的風(fēng)險,如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報道,騰訊和網(wǎng)易近期正在縮減他們對日本游戲市場的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式在貴陽舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導(dǎo)體

8月28日消息,在2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機(jī) 衛(wèi)星通信

要點: 有效應(yīng)對環(huán)境變化,經(jīng)營業(yè)績穩(wěn)中有升 落實提質(zhì)增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競爭力 堅持高質(zhì)量發(fā)展策略,塑強(qiáng)核心競爭優(yōu)勢...

關(guān)鍵字: 通信 BSP 電信運(yùn)營商 數(shù)字經(jīng)濟(jì)

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術(shù)學(xué)會聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(shù)(集團(tuán))股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉
關(guān)閉