[導(dǎo)讀]編者按:CPUBurst特性已合入Linux5.14,AnolisOS8.2、AlibabaCloudLinux2、AlibabaCloudLinux3也都支持CPUBurst特性。在系列文章的上篇中,我們討論了讓人討厭的CPU限流,它會影響運行在容器中的應(yīng)用的一些關(guān)鍵指標(biāo)。為了...
編者按:CPU Burst 特性已合入 Linux 5.14,Anolis OS 8.2、Alibaba Cloud Linux2、Alibaba Cloud Linux3也都支持CPU Burst特性。
在系列文章的上篇中,我們討論了讓人討厭的 CPU 限流,它會影響運行在容器中的應(yīng)用的一些關(guān)鍵指標(biāo)。為了避免限流的出現(xiàn),有時我們不得不犧牲容器部署密度,從而導(dǎo)致資源浪費的產(chǎn)生。在解決方案部分,我們也介紹了新的CPU Burst 技術(shù),通過這一技術(shù),我們既能保證容器運行服務(wù)質(zhì)量,又不降低容器部署密度。聽起來有點像個銀彈啊?那么,使用CPU Burst的副作用是什么?是否有不適用的場景呢?為了回答這個問題,本文將介紹CPU Burst打破的調(diào)度保證,以及CPU Burst影響評估。盡管這些CPU突發(fā)的使用造成的CPU使用差異在CPU利用率上很多時候不明顯,但是我們?nèi)匀魂P(guān)心這種改變的影響。當(dāng)然,結(jié)論是明確的:CPU Burst的負(fù)面影響完全可以忽略。僅在CPU利用率高達(dá)70%的環(huán)境里CPU Burst開始影響關(guān)鍵指標(biāo),而我相信大家日常生產(chǎn)環(huán)境的CPU利用率都遠(yuǎn)遠(yuǎn)低于這個水平。CPU Bandwidth Controller的保證
使用CPU Bandwidth Controller可以避免某些進(jìn)程消耗過多CPU時間,并確保所有需要CPU的進(jìn)程都拿到足夠的CPU時間。之所以有這樣好的穩(wěn)定性保證,是因為當(dāng)Bandwidth Controller設(shè)置滿足時,有如下的調(diào)度穩(wěn)定性約束:
其中是第i個cgroup的quota,是一個period內(nèi)該cgroup的CPU需求。Bandwidth Controller對每個周期分別做CPU時間統(tǒng)計,調(diào)度穩(wěn)定性約束保證在一個period內(nèi)提交的全部任務(wù)都能在該周期內(nèi)處理完;對每個CPU cgroup而言,這意味著任何時候提交的任務(wù)都能在一個period內(nèi)執(zhí)行完,即任務(wù)實時性約束:
不管任務(wù)優(yōu)先級如何,最壞情況下任務(wù)執(zhí)行時間(WCET, Worst-Case Execution Time)不超過一個period。假如持續(xù)出現(xiàn)調(diào)度器穩(wěn)定性被打破,在每個period都有任務(wù)積攢下來,新提交的作業(yè)執(zhí)行時間不斷增加。
使用CPU Burst的影響
出于改善服務(wù)質(zhì)量的需要,我們使用CPU Burst允許突發(fā)的CPU使用之后,對調(diào)度器的穩(wěn)定性產(chǎn)生什么影響?答案是當(dāng)多個cgroup同時突發(fā)使用CPU,調(diào)度器穩(wěn)定性約束和任務(wù)實時性保證有可能被打破。這時候兩個約束得到保證的概率是關(guān)鍵,如果兩個約束得到保證的概率很高,對大多數(shù)周期來任務(wù)實時性都得到保證,可以放心大膽使用CPU Burst;如果任務(wù)實時性得到保證的概率很低,這時候要改善服務(wù)質(zhì)量不能直接使用CPU Burst,應(yīng)該先降低部署密度提高CPU資源配置。于是下一個關(guān)心的問題是,怎么計算特定場景下兩個約束被打破的概率。
評估影響大小
定量計算可以定義成經(jīng)典的排隊論問題,并且用蒙特卡洛模擬方法求解。定量計算的結(jié)果表明,判斷當(dāng)前場景是否可以使用CPU Burst的主要影響因素是平均CPU利用率和cgroup數(shù)目。CPU利用率越低,或者cgroup數(shù)目越多,兩個約束越不容易被打破可以放心使用CPU Burst。反之如果CPU利用率很高或者cgroup數(shù)目較少,要消除CPU限流對進(jìn)程執(zhí)行的影響,應(yīng)該降低部署提高配置再使用CPU Burst。問題定義是:一共有m個cgroup,每個cgroup的quota限制為1/m,每個cgroup在每個周期產(chǎn)生的計算需求(CPU利用率)服從某個具體分布,這些分布是相互獨立的。假設(shè)任務(wù)在每個周期的開始到達(dá),如果該周期內(nèi)的CPU需求超過100%,當(dāng)前周期任務(wù)WCET超過1個period,超過的部分累積下來和下個周期新產(chǎn)生的CPU需求一起在下個需求處理。輸入是cgroup的數(shù)目m和每個CPU需求滿足的具體分布,輸出是每個周期結(jié)束WCET > period的概率和WCET期望。使用蒙特卡洛模擬求解過程省略,詳細(xì)請關(guān)注后續(xù)系列文章。以輸入的CPU需求為帕累托分布、m=10/20/30的結(jié)果為例進(jìn)行說明。選擇帕累托分布進(jìn)行說明的原因是它產(chǎn)生比較多的長尾CPU突發(fā)使用,容易產(chǎn)生較大影響。表格中數(shù)據(jù)項的格式為,其中越接近1越好,概率越低越好。
u_avg
|
m=10
|
m=20
|
m=30
|
10%
|
1.0000/0.00%
|
1.0000/0.00%
|
1.0000/0.00%
|
30%
|
1.0000/0.00%
|
1.0000/0.00%
|
1.0000/0.00%
|
50%
|
1.0003/0.03%
|
1.0000/0.00%
|
1.0000/0.00%
|
70%
|
1.0077/0.66%
|
1.0013/0.12%
|
1.0004/0.04%
|
90%
|
1.4061/19.35%
|
1.1626/10.61%
|
1.0867/6.52%
|
結(jié)果跟直覺是吻合的。一方面,CPU需求(CPU利用率)越高,CPU突發(fā)越容易打破穩(wěn)定性約束,造成任務(wù)WCET期望變長。另一方面,CPU需求獨立分布的cgroup數(shù)目越多,它們同時產(chǎn)生CPU突發(fā)需求的可能性越低,調(diào)度器穩(wěn)定性約束越容易保持,WCET的期望越接近1個period。
后續(xù)
看完本文相信您對CPU Burst的影響已經(jīng)有了定性了解。如果希望對評估方法有更多了解,請期待系列文章的下篇。關(guān)于作者
常懷鑫(一齋),阿里云內(nèi)核組工程師,擅長CPU調(diào)度領(lǐng)域。
丁天琛(鷹羽),2021年加入阿里云內(nèi)核組,目前在調(diào)度領(lǐng)域等方面學(xué)習(xí)研究——完——
本站聲明: 本文章由作者或相關(guān)機構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內(nèi)容真實性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時聯(lián)系本站刪除。
9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫毥谦F公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。
關(guān)鍵字:
阿維塔
塞力斯
華為
加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉(zhuǎn)型技術(shù)解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...
關(guān)鍵字:
AWS
AN
BSP
數(shù)字化
倫敦2024年8月29日 /美通社/ -- 英國汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認(rèn)證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...
關(guān)鍵字:
汽車
人工智能
智能驅(qū)動
BSP
北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務(wù)能7×24不間斷運行,同時企業(yè)卻面臨越來越多業(yè)務(wù)中斷的風(fēng)險,如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...
關(guān)鍵字:
亞馬遜
解密
控制平面
BSP
8月30日消息,據(jù)媒體報道,騰訊和網(wǎng)易近期正在縮減他們對日本游戲市場的投資。
關(guān)鍵字:
騰訊
編碼器
CPU
8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式在貴陽舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。
關(guān)鍵字:
華為
12nm
EDA
半導(dǎo)體
8月28日消息,在2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權(quán)最終是由生態(tài)的繁榮決定的。
關(guān)鍵字:
華為
12nm
手機
衛(wèi)星通信
要點: 有效應(yīng)對環(huán)境變化,經(jīng)營業(yè)績穩(wěn)中有升 落實提質(zhì)增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競爭力 堅持高質(zhì)量發(fā)展策略,塑強核心競爭優(yōu)勢...
關(guān)鍵字:
通信
BSP
電信運營商
數(shù)字經(jīng)濟(jì)
北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術(shù)學(xué)會聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術(shù)創(chuàng)新聯(lián)...
關(guān)鍵字:
VI
傳輸協(xié)議
音頻
BSP
北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(shù)(集團(tuán))股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...
關(guān)鍵字:
BSP
信息技術(shù)
山海路引?嵐悅新程 三亞2024年8月27日 /美通社/ --?近日,海南地區(qū)六家凱悅系酒店與中國高端新能源車企嵐圖汽車(VOYAH)正式達(dá)成戰(zhàn)略合作協(xié)議。這一合作標(biāo)志著兩大品牌在高端出行體驗和環(huán)保理念上的深度融合,將...
關(guān)鍵字:
新能源
BSP
PLAYER
ASIA
上海2024年8月28日 /美通社/ -- 8月26日至8月28日,AHN LAN安嵐與股神巴菲特的孫女妮可?巴菲特共同開啟了一場自然和藝術(shù)的療愈之旅。 妮可·巴菲特在療愈之旅活動現(xiàn)場合影 ...
關(guān)鍵字:
MIDDOT
BSP
LAN
SPI
8月29日消息,近日,華為董事、質(zhì)量流程IT總裁陶景文在中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式上表示,中國科技企業(yè)不應(yīng)怕美國對其封鎖。
關(guān)鍵字:
華為
12nm
EDA
半導(dǎo)體
上海2024年8月26日 /美通社/ -- 近日,全球領(lǐng)先的消費者研究與零售監(jiān)測公司尼爾森IQ(NielsenIQ)迎來進(jìn)入中國市場四十周年的重要里程碑,正式翻開在華發(fā)展新篇章。自改革開放以來,中國市場不斷展現(xiàn)出前所未有...
關(guān)鍵字:
BSP
NI
SE
TRACE
上海2024年8月26日 /美通社/ -- 第二十二屆跨盈年度B2B營銷高管峰會(CC2025)將于2025年1月15-17日在上海舉辦,本次峰會早鳥票注冊通道開啟,截止時間10月11日。 了解更多會議信息:cc.co...
關(guān)鍵字:
BSP
COM
AI
INDEX
上海2024年8月26日 /美通社/ -- 今日,高端全合成潤滑油品牌美孚1號攜手品牌體驗官周冠宇,開啟全新旅程,助力廣大車主通過駕駛?cè)ヌ剿鞲鼜V闊的世界。在全新發(fā)布的品牌視頻中,周冠宇及不同背景的消費者表達(dá)了對駕駛的熱愛...
關(guān)鍵字:
BSP
汽車制造
此次發(fā)布標(biāo)志著Cision首次為亞太市場量身定制全方位的媒體監(jiān)測服務(wù)。 芝加哥2024年8月27日 /美通社/ -- 消費者和媒體情報、互動及傳播解決方案的全球領(lǐng)導(dǎo)者Cis...
關(guān)鍵字:
CIS
IO
SI
BSP
上海2024年8月27日 /美通社/ -- 近來,具有強大學(xué)習(xí)、理解和多模態(tài)處理能力的大模型迅猛發(fā)展,正在給人類的生產(chǎn)、生活帶來革命性的變化。在這一變革浪潮中,物聯(lián)網(wǎng)成為了大模型技術(shù)發(fā)揮作用的重要陣地。 作為全球領(lǐng)先的...
關(guān)鍵字:
模型
移遠(yuǎn)通信
BSP
高通
北京2024年8月27日 /美通社/ -- 高途教育科技公司(紐約證券交易所股票代碼:GOTU)("高途"或"公司"),一家技術(shù)驅(qū)動的在線直播大班培訓(xùn)機構(gòu),今日發(fā)布截至2024年6月30日第二季度未經(jīng)審計財務(wù)報告。 2...
關(guān)鍵字:
BSP
電話會議
COM
TE
8月26日消息,華為公司最近正式啟動了“華為AI百校計劃”,向國內(nèi)高校提供基于昇騰云服務(wù)的AI計算資源。
關(guān)鍵字:
華為
12nm
EDA
半導(dǎo)體