[導讀]編者按:CPUBurst特性已合入Linux5.14,AnolisOS8.2、AlibabaCloudLinux2、AlibabaCloudLinux3也都支持CPUBurst特性。在系列文章的上篇中,我們討論了讓人討厭的CPU限流,它會影響運行在容器中的應用的一些關鍵指標。為了...
編者按:CPU Burst 特性已合入 Linux 5.14,Anolis OS 8.2、Alibaba Cloud Linux2、Alibaba Cloud Linux3也都支持CPU Burst特性。
在系列文章的上篇中,我們討論了讓人討厭的 CPU 限流,它會影響運行在容器中的應用的一些關鍵指標。為了避免限流的出現(xiàn),有時我們不得不犧牲容器部署密度,從而導致資源浪費的產(chǎn)生。在解決方案部分,我們也介紹了新的CPU Burst 技術(shù),通過這一技術(shù),我們既能保證容器運行服務質(zhì)量,又不降低容器部署密度。聽起來有點像個銀彈?。磕敲?,使用CPU Burst的副作用是什么?是否有不適用的場景呢?為了回答這個問題,本文將介紹CPU Burst打破的調(diào)度保證,以及CPU Burst影響評估。盡管這些CPU突發(fā)的使用造成的CPU使用差異在CPU利用率上很多時候不明顯,但是我們?nèi)匀魂P心這種改變的影響。當然,結(jié)論是明確的:CPU Burst的負面影響完全可以忽略。僅在CPU利用率高達70%的環(huán)境里CPU Burst開始影響關鍵指標,而我相信大家日常生產(chǎn)環(huán)境的CPU利用率都遠遠低于這個水平。CPU Bandwidth Controller的保證
使用CPU Bandwidth Controller可以避免某些進程消耗過多CPU時間,并確保所有需要CPU的進程都拿到足夠的CPU時間。之所以有這樣好的穩(wěn)定性保證,是因為當Bandwidth Controller設置滿足時,有如下的調(diào)度穩(wěn)定性約束:
其中是第i個cgroup的quota,是一個period內(nèi)該cgroup的CPU需求。Bandwidth Controller對每個周期分別做CPU時間統(tǒng)計,調(diào)度穩(wěn)定性約束保證在一個period內(nèi)提交的全部任務都能在該周期內(nèi)處理完;對每個CPU cgroup而言,這意味著任何時候提交的任務都能在一個period內(nèi)執(zhí)行完,即任務實時性約束:
不管任務優(yōu)先級如何,最壞情況下任務執(zhí)行時間(WCET, Worst-Case Execution Time)不超過一個period。假如持續(xù)出現(xiàn)調(diào)度器穩(wěn)定性被打破,在每個period都有任務積攢下來,新提交的作業(yè)執(zhí)行時間不斷增加。
使用CPU Burst的影響
出于改善服務質(zhì)量的需要,我們使用CPU Burst允許突發(fā)的CPU使用之后,對調(diào)度器的穩(wěn)定性產(chǎn)生什么影響?答案是當多個cgroup同時突發(fā)使用CPU,調(diào)度器穩(wěn)定性約束和任務實時性保證有可能被打破。這時候兩個約束得到保證的概率是關鍵,如果兩個約束得到保證的概率很高,對大多數(shù)周期來任務實時性都得到保證,可以放心大膽使用CPU Burst;如果任務實時性得到保證的概率很低,這時候要改善服務質(zhì)量不能直接使用CPU Burst,應該先降低部署密度提高CPU資源配置。于是下一個關心的問題是,怎么計算特定場景下兩個約束被打破的概率。
評估影響大小
定量計算可以定義成經(jīng)典的排隊論問題,并且用蒙特卡洛模擬方法求解。定量計算的結(jié)果表明,判斷當前場景是否可以使用CPU Burst的主要影響因素是平均CPU利用率和cgroup數(shù)目。CPU利用率越低,或者cgroup數(shù)目越多,兩個約束越不容易被打破可以放心使用CPU Burst。反之如果CPU利用率很高或者cgroup數(shù)目較少,要消除CPU限流對進程執(zhí)行的影響,應該降低部署提高配置再使用CPU Burst。問題定義是:一共有m個cgroup,每個cgroup的quota限制為1/m,每個cgroup在每個周期產(chǎn)生的計算需求(CPU利用率)服從某個具體分布,這些分布是相互獨立的。假設任務在每個周期的開始到達,如果該周期內(nèi)的CPU需求超過100%,當前周期任務WCET超過1個period,超過的部分累積下來和下個周期新產(chǎn)生的CPU需求一起在下個需求處理。輸入是cgroup的數(shù)目m和每個CPU需求滿足的具體分布,輸出是每個周期結(jié)束WCET > period的概率和WCET期望。使用蒙特卡洛模擬求解過程省略,詳細請關注后續(xù)系列文章。以輸入的CPU需求為帕累托分布、m=10/20/30的結(jié)果為例進行說明。選擇帕累托分布進行說明的原因是它產(chǎn)生比較多的長尾CPU突發(fā)使用,容易產(chǎn)生較大影響。表格中數(shù)據(jù)項的格式為,其中越接近1越好,概率越低越好。
u_avg
|
m=10
|
m=20
|
m=30
|
10%
|
1.0000/0.00%
|
1.0000/0.00%
|
1.0000/0.00%
|
30%
|
1.0000/0.00%
|
1.0000/0.00%
|
1.0000/0.00%
|
50%
|
1.0003/0.03%
|
1.0000/0.00%
|
1.0000/0.00%
|
70%
|
1.0077/0.66%
|
1.0013/0.12%
|
1.0004/0.04%
|
90%
|
1.4061/19.35%
|
1.1626/10.61%
|
1.0867/6.52%
|
結(jié)果跟直覺是吻合的。一方面,CPU需求(CPU利用率)越高,CPU突發(fā)越容易打破穩(wěn)定性約束,造成任務WCET期望變長。另一方面,CPU需求獨立分布的cgroup數(shù)目越多,它們同時產(chǎn)生CPU突發(fā)需求的可能性越低,調(diào)度器穩(wěn)定性約束越容易保持,WCET的期望越接近1個period。
后續(xù)
看完本文相信您對CPU Burst的影響已經(jīng)有了定性了解。如果希望對評估方法有更多了解,請期待系列文章的下篇。關于作者
常懷鑫(一齋),阿里云內(nèi)核組工程師,擅長CPU調(diào)度領域。
丁天琛(鷹羽),2021年加入阿里云內(nèi)核組,目前在調(diào)度領域等方面學習研究——完——
本站聲明: 本文章由作者或相關機構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內(nèi)容真實性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時聯(lián)系本站刪除。
9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫毥谦F公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。
關鍵字:
阿維塔
塞力斯
華為
加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉(zhuǎn)型技術(shù)解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...
關鍵字:
AWS
AN
BSP
數(shù)字化
倫敦2024年8月29日 /美通社/ -- 英國汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...
關鍵字:
汽車
人工智能
智能驅(qū)動
BSP
北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務能7×24不間斷運行,同時企業(yè)卻面臨越來越多業(yè)務中斷的風險,如企業(yè)系統(tǒng)復雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務連續(xù)性,提升韌性,成...
關鍵字:
亞馬遜
解密
控制平面
BSP
8月30日消息,據(jù)媒體報道,騰訊和網(wǎng)易近期正在縮減他們對日本游戲市場的投資。
關鍵字:
騰訊
編碼器
CPU
8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式在貴陽舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。
關鍵字:
華為
12nm
EDA
半導體
8月28日消息,在2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上,華為常務董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權(quán)最終是由生態(tài)的繁榮決定的。
關鍵字:
華為
12nm
手機
衛(wèi)星通信
要點: 有效應對環(huán)境變化,經(jīng)營業(yè)績穩(wěn)中有升 落實提質(zhì)增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務引領增長 以科技創(chuàng)新為引領,提升企業(yè)核心競爭力 堅持高質(zhì)量發(fā)展策略,塑強核心競爭優(yōu)勢...
關鍵字:
通信
BSP
電信運營商
數(shù)字經(jīng)濟
北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術(shù)學會聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術(shù)創(chuàng)新聯(lián)...
關鍵字:
VI
傳輸協(xié)議
音頻
BSP
北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(shù)(集團)股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...
關鍵字:
BSP
信息技術(shù)
山海路引?嵐悅新程 三亞2024年8月27日 /美通社/ --?近日,海南地區(qū)六家凱悅系酒店與中國高端新能源車企嵐圖汽車(VOYAH)正式達成戰(zhàn)略合作協(xié)議。這一合作標志著兩大品牌在高端出行體驗和環(huán)保理念上的深度融合,將...
關鍵字:
新能源
BSP
PLAYER
ASIA
上海2024年8月28日 /美通社/ -- 8月26日至8月28日,AHN LAN安嵐與股神巴菲特的孫女妮可?巴菲特共同開啟了一場自然和藝術(shù)的療愈之旅。 妮可·巴菲特在療愈之旅活動現(xiàn)場合影 ...
關鍵字:
MIDDOT
BSP
LAN
SPI
8月29日消息,近日,華為董事、質(zhì)量流程IT總裁陶景文在中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式上表示,中國科技企業(yè)不應怕美國對其封鎖。
關鍵字:
華為
12nm
EDA
半導體
上海2024年8月26日 /美通社/ -- 近日,全球領先的消費者研究與零售監(jiān)測公司尼爾森IQ(NielsenIQ)迎來進入中國市場四十周年的重要里程碑,正式翻開在華發(fā)展新篇章。自改革開放以來,中國市場不斷展現(xiàn)出前所未有...
關鍵字:
BSP
NI
SE
TRACE
上海2024年8月26日 /美通社/ -- 第二十二屆跨盈年度B2B營銷高管峰會(CC2025)將于2025年1月15-17日在上海舉辦,本次峰會早鳥票注冊通道開啟,截止時間10月11日。 了解更多會議信息:cc.co...
關鍵字:
BSP
COM
AI
INDEX
上海2024年8月26日 /美通社/ -- 今日,高端全合成潤滑油品牌美孚1號攜手品牌體驗官周冠宇,開啟全新旅程,助力廣大車主通過駕駛?cè)ヌ剿鞲鼜V闊的世界。在全新發(fā)布的品牌視頻中,周冠宇及不同背景的消費者表達了對駕駛的熱愛...
關鍵字:
BSP
汽車制造
此次發(fā)布標志著Cision首次為亞太市場量身定制全方位的媒體監(jiān)測服務。 芝加哥2024年8月27日 /美通社/ -- 消費者和媒體情報、互動及傳播解決方案的全球領導者Cis...
關鍵字:
CIS
IO
SI
BSP
上海2024年8月27日 /美通社/ -- 近來,具有強大學習、理解和多模態(tài)處理能力的大模型迅猛發(fā)展,正在給人類的生產(chǎn)、生活帶來革命性的變化。在這一變革浪潮中,物聯(lián)網(wǎng)成為了大模型技術(shù)發(fā)揮作用的重要陣地。 作為全球領先的...
關鍵字:
模型
移遠通信
BSP
高通
北京2024年8月27日 /美通社/ -- 高途教育科技公司(紐約證券交易所股票代碼:GOTU)("高途"或"公司"),一家技術(shù)驅(qū)動的在線直播大班培訓機構(gòu),今日發(fā)布截至2024年6月30日第二季度未經(jīng)審計財務報告。 2...
關鍵字:
BSP
電話會議
COM
TE
8月26日消息,華為公司最近正式啟動了“華為AI百校計劃”,向國內(nèi)高校提供基于昇騰云服務的AI計算資源。
關鍵字:
華為
12nm
EDA
半導體