高性能計(jì)算 ( high performance compute ,  HPC)是一個(gè)計(jì)算機(jī)集群系統(tǒng) ,  它通過各種互聯(lián)技術(shù)將 多個(gè)計(jì)算機(jī)系統(tǒng)連接在一起 ,  利用所有被連接系 統(tǒng)的綜合計(jì)算能力來(lái)處理大型計(jì)算問題。高性能 計(jì)算方法的基本原理就是將問題分為若干部分 , 而相連的每臺(tái)計(jì)算機(jī) ( 稱為節(jié)點(diǎn))  均可同時(shí)參與 問題的解決 ,  從而顯著縮短了解決整個(gè)問題所需 的計(jì)算時(shí)間。

1 集群系統(tǒng)的概念     集群是以網(wǎng)絡(luò)技術(shù)連接起來(lái)的工作站或 PC 機(jī)的組合 ,  這些工作站或 PC 機(jī)就像一個(gè)單獨(dú)集 成的計(jì)算資源一樣協(xié)同工作 ,  這些單個(gè)的計(jì)算機(jī) 就是集群的節(jié)點(diǎn) ( node) 。

1.1.1 　集群計(jì)算機(jī)系統(tǒng)是并行處理的主流 集群計(jì)算機(jī)提速的前提基礎(chǔ)是微處理器和網(wǎng) 絡(luò)技術(shù)的進(jìn)步。集群計(jì)算機(jī)是利用高速通信網(wǎng)絡(luò) 將一組高性能工作站或高檔 PC 網(wǎng)絡(luò)結(jié)構(gòu)連接起 來(lái) ,  在并行程序設(shè)計(jì)及可視化人機(jī)交互集成開發(fā) 環(huán)境支持下 ,  統(tǒng)一調(diào)度 ,  協(xié)調(diào)處理 ,  實(shí)現(xiàn)高效并 行處理的系統(tǒng)。從結(jié)構(gòu)和結(jié)點(diǎn)間的通信方式來(lái)看 , 它屬于分布存儲(chǔ)系統(tǒng) ,  主要利用消息傳遞方式實(shí) 現(xiàn)各結(jié)點(diǎn)之間的通信。目前己實(shí)現(xiàn)和正在研究中的集群系統(tǒng)大多采用現(xiàn)有商用工作站 1 代和通用 LA N 網(wǎng)絡(luò) ,  這樣既可以縮短開發(fā)周期 ,  又可以利 用最新的微處理器技術(shù)。

1.1.2 　集群系統(tǒng)的分類 按照應(yīng)用目的可以分成高性能計(jì)算集群和高 可用集群。高性能計(jì)算 ( High Perfermance Comput2ing)  集群 ,  簡(jiǎn)稱 HPC 集群 ,  這類集群通過將多臺(tái)機(jī)器連接起來(lái)同時(shí)處理復(fù)雜的計(jì)算問題 ,  提供單 個(gè)計(jì)算機(jī)不能提供的強(qiáng)大的計(jì)算能力。高可用 (High Acailability)   集群 ,  簡(jiǎn)稱 HA 集群 ,  這類集 群的主要功能就是提供不間斷高可靠度的服務(wù)。按照結(jié)點(diǎn)的歸屬可分為專用集群和非專用集 群。在專用集群中所有的資源是共享的 ,  并行應(yīng) 用可以在整個(gè)集群上運(yùn)行 ,  而在非專用集群中 , 全局應(yīng)用通過竊取 CPU 時(shí)間獲得運(yùn)行。非專用機(jī) 群中由于存在本地用戶和遠(yuǎn)地用戶對(duì)處理器的競(jìng)爭(zhēng) ,  帶來(lái)了進(jìn)程遷移和負(fù)載平衡等問題。按照結(jié)點(diǎn)的操作系統(tǒng)可分為 Linux 集群、So2 laris 集群、NT 集群等 ;  按照各結(jié)點(diǎn)是否相同可分 為同構(gòu)集群和異構(gòu)集群。同構(gòu)機(jī)群中各節(jié)點(diǎn)有相 似的體系并且使用相同的操作系統(tǒng) ,  而異構(gòu)機(jī)群 中節(jié)點(diǎn)可以有不同的體系 ,  運(yùn)行的操作系統(tǒng)也可 以不盡相同。按照結(jié)點(diǎn)的機(jī)型可分為 PC 集群、工作站集 群和 SMP 集群等。

1.1.3 　集群系統(tǒng)的特點(diǎn):

高可擴(kuò)展性提高 CPU 主頻和總線寬帶是最初提供計(jì)算機(jī) 性能的主要手段。但是這一手段對(duì)系統(tǒng)性能的提 供是有限的。接著人們通過增加 CPU 個(gè)數(shù)和內(nèi)存 容量來(lái)提高性能 ,  于是出現(xiàn)了向量機(jī) ,  對(duì)稱多處 理機(jī) ( SMP)  等。但是當(dāng) CPU 的個(gè)數(shù)超過某一閾 值 ,  象 SMP 這些多處理機(jī)系統(tǒng)的可擴(kuò)展性就變得 極差。主要瓶頸在于 CPU 訪問內(nèi)存的寬帶并不能 隨著 CPU 個(gè)數(shù)的增加而有效增長(zhǎng)。與 SMP 相反 , 集群系統(tǒng)的性能隨著 CPU 個(gè)數(shù)的增加幾乎是線性 的。 11312 　高可用性集群中的一個(gè)節(jié)點(diǎn)失效 ,  它的任務(wù)可以傳遞 給其他節(jié)點(diǎn)?？梢杂行Х乐箚吸c(diǎn)失效。 11313 　高性能 負(fù)載平衡集群允許系統(tǒng)同時(shí)接入更多的用戶。 11314 　高性價(jià)比集群 ( Cluster)  技術(shù)是使用特定的連接方式 , 將價(jià)格相對(duì)較低符合工業(yè)標(biāo)準(zhǔn)的硬件設(shè)備結(jié)合起來(lái) ,  同時(shí)也能提供高性能相當(dāng)?shù)娜蝿?wù)處理能力。

2 　影響集群系統(tǒng)并行運(yùn)算的因素  

2.1.1 　網(wǎng)絡(luò)性能因素 快速消息通信系統(tǒng)集群計(jì)算機(jī)是基于高速通 信網(wǎng)絡(luò)互連而構(gòu)成的系統(tǒng)。網(wǎng)絡(luò)性能的好壞對(duì)集

群計(jì)算機(jī)并行計(jì)算效率的提高、處理問題的適應(yīng) 范圍以及系統(tǒng)的可擴(kuò)展性都有很大影響。通信延 遲時(shí)間是衡量網(wǎng)絡(luò)性能的重要因素 ,  它包括協(xié)議 軟件處理開銷和網(wǎng)絡(luò)硬件處理時(shí)間。高速網(wǎng)絡(luò)硬 件雖然降低了網(wǎng)絡(luò)的傳輸延遲 ,  但并沒有減少通 信軟件的處理開銷 ,  由于軟件處理開銷所占比重 過大 ,  在很大程度上阻礙了高速網(wǎng)實(shí)際性能的提 高 ,  因此 ,  在使用高速網(wǎng)絡(luò)的集群系統(tǒng)中 ,  影響通信系統(tǒng)性能的瓶頸己不再是網(wǎng)絡(luò)硬件的性能 , 而是通信軟件的處理開銷。傳統(tǒng) TCP/ IP 協(xié)議是為廣域網(wǎng)設(shè)計(jì)的網(wǎng)際互連 協(xié)議 ,  它提供了復(fù)雜而強(qiáng)大的諸多功能 ,  這些復(fù) 雜的功能必然帶來(lái)很大的軟件開銷 ,  因此這種協(xié) 議并不適合集群計(jì)算機(jī)進(jìn)行并行處理。另外 ,  傳 統(tǒng)協(xié)議往往是在操作系統(tǒng)核心中實(shí)現(xiàn)的 ,  由操作 系統(tǒng)引入的開銷也是不容忽視的重要因素。對(duì)集 群計(jì)算機(jī)系統(tǒng)而言 ,  其網(wǎng)絡(luò)系統(tǒng)分布范圍小 ,  通 信鏈路可靠性高 ,  系統(tǒng)結(jié)構(gòu)相對(duì)簡(jiǎn)單。為了降低 通信軟件處理開銷 ,  需要通過對(duì)高效通信協(xié)議的 研究 ,  設(shè)計(jì)一種適用于集群計(jì)算機(jī)系統(tǒng)的快速消 息傳遞機(jī)制 ,  為用戶提供一個(gè)低延遲、高帶寬、 高可靠的通信模式 ,  達(dá)到改善系統(tǒng)性能的目的。

2.1.2 　可視化并行程序開發(fā)與調(diào)試環(huán)境因素 影響并行機(jī)推廣使用的一個(gè)最重要的障礙是 在并行機(jī)上編寫、編譯、鏈接和調(diào)試程序比較困 難。目前雖然有了許多功能強(qiáng)大的并行環(huán)境 ,  但 是編制高效的并行程序仍然是一件比較困難的事 情。主要是因?yàn)檫@些并行環(huán)境的重點(diǎn)都在運(yùn)行環(huán)境上 ,  對(duì)編程環(huán)境的方便性和實(shí)用性注意不夠 , 缺少實(shí)用的工具。 一個(gè)友好、實(shí)用、方便的可視化人機(jī)交互集成開發(fā)環(huán)境 ,  應(yīng)為應(yīng)用程序員和最終用戶提供編 輯 ,  多種語(yǔ)言的編譯、鏈接、裝配 ,  并行環(huán)境配 置 ,  各節(jié)點(diǎn)資源使用情況顯示 ,  并行任務(wù)的加載、運(yùn)行、狀態(tài)監(jiān)視和控制 ,  性能評(píng)測(cè)和并行調(diào)試以 及聯(lián)機(jī)幫助等功能 ,  使用戶在此環(huán)境中即可方便 地完成并行程序的編寫、編譯鏈接 ,  并且通過性 能監(jiān)測(cè)分析比較并行算法 ,  找出性能瓶頸 ,  優(yōu)化 并行算法設(shè)計(jì) ,  并最終編寫出高效的并行程序。這對(duì)于解決并行處理技術(shù)難以實(shí)用具有現(xiàn)實(shí)意義。 并行程序的可視化是當(dāng)前并行程序環(huán)境的一個(gè)重 要趨勢(shì) ,  通過控制流和數(shù)據(jù)流模式的圖形動(dòng)畫可 使程序員直觀地看到并行程序的運(yùn)行過程 ,  使用 戶能形象地發(fā)現(xiàn)并行程序的瓶頸 ,  為并行程序的調(diào)試及提高編譯效率提供有效的乎段。

2.1.3 　程序并行化因素 計(jì)算機(jī)發(fā)展到今天 ,  己經(jīng)積累了大量的應(yīng)用 軟件 ,  要把這些軟件人工改寫成等價(jià)的并行軟件 是一件工作量極其龐大、也很繁瑣的工作。用戶迫切要求對(duì)現(xiàn)有的應(yīng)用軟件不作任何改動(dòng) ,  就能 在并行系統(tǒng)上運(yùn)行。因此 ,  設(shè)計(jì)和實(shí)現(xiàn)一個(gè)并行 化編譯系統(tǒng)是非常必要的。經(jīng)過近年來(lái)的研究 , 全自動(dòng)并行化系統(tǒng)在并行化能力上有了較大提高 , 但在對(duì)某些串行程序進(jìn)行并行化后 ,  生成的并行程序的加速比仍然不能令人滿意。其原因在于全 自動(dòng)并行化系統(tǒng)中的相關(guān)性分析算法、數(shù)據(jù)劃分 算法和通信生成算法還不能有效地處理這些應(yīng)用 程序的復(fù)雜性。除了算法本身的能力不足外 ,  缺 乏有關(guān)的程序語(yǔ)義信息。交互式的并行化系統(tǒng)引起人們的格外注意。交互式的并行化系統(tǒng)除了考 慮到全自動(dòng)系統(tǒng)的功能和特點(diǎn)外 ,  還允許用戶選 擇使用或不使用系統(tǒng)中的交互行為。在不使用交 互功能時(shí) ,  系統(tǒng)就成了一個(gè)全自動(dòng)的并行化系統(tǒng)。 如果用戶認(rèn)為全自動(dòng)的并行化效果不好 ,  那么可以選擇使用交互功能來(lái)進(jìn)一步提高并行代碼質(zhì)量。

2.1.4 　容錯(cuò)與高可用技術(shù)因素 越來(lái)越多的應(yīng)用對(duì)計(jì)算機(jī)系統(tǒng)的性能、可靠 性和可用性提出了越來(lái)越高的要求。并行處理是 提高計(jì)算能力、滿足不斷增長(zhǎng)的應(yīng)用需求的有效途徑。而容錯(cuò)技術(shù)是提高計(jì)算可靠性和可用性的 重要保證。隨著系統(tǒng)規(guī)模的不斷擴(kuò)大 ,  工作站/ PC 集群計(jì)算機(jī)在計(jì)算過程中發(fā)生故障的機(jī)會(huì)曾指 數(shù)般增長(zhǎng) ,  同時(shí)由于集群計(jì)算機(jī)系統(tǒng)通常為多用 戶使用 ,  結(jié)點(diǎn)等資源具有較大的可變特性。系統(tǒng)在發(fā)生各種異?；蚬收鲜录r(shí)會(huì)導(dǎo)致本次并行計(jì) 算的徹底失敗 ,  此前的大量計(jì)算不能再用。要想 使集群計(jì)算機(jī)系統(tǒng)在上述領(lǐng)域廣泛應(yīng)用 ,  系統(tǒng)需 要具有一定的容錯(cuò)能力 ,  保證在發(fā)生各種異常事 件或故障時(shí) ,  為用戶提供持續(xù)的服務(wù)。雖然實(shí)現(xiàn)容錯(cuò)的方法有多種 ,  但都不能有效地應(yīng)用于工作 站/ PC 集群計(jì)算機(jī)。檢查點(diǎn)設(shè)置與卷回恢復(fù)技術(shù) 作為一種后向恢復(fù)技術(shù) ,  通過在系統(tǒng)正常運(yùn)行過 程中設(shè)置檢查點(diǎn) ,  保存系統(tǒng)當(dāng)時(shí)的一致性狀態(tài) , 并對(duì)各進(jìn)程進(jìn)行相關(guān)性跟蹤和記錄。系統(tǒng)發(fā)生故障后 ,  將相關(guān)進(jìn)程回卷到故障前系統(tǒng)一致性狀態(tài) (檢查點(diǎn)) ,  經(jīng)過狀態(tài)恢復(fù)后從該檢查點(diǎn)處重新執(zhí)行 (而不是從程序開始執(zhí)行) ,  實(shí)現(xiàn)對(duì)系統(tǒng)故障的 恢復(fù) ,  節(jié)省了大量重復(fù)計(jì)算時(shí)間 ,  充分體現(xiàn)集群 計(jì)算機(jī)系統(tǒng)的并行性能 ,  提高集群計(jì)算機(jī)系統(tǒng)的可用性。這種后向故障恢復(fù)技術(shù)不僅可以對(duì)系統(tǒng) 瞬時(shí)、間歇故障進(jìn)行自動(dòng)恢復(fù) ,  并且通過檢查點(diǎn) 文件鏡像和進(jìn)程遷移技術(shù)也可以容忍節(jié)點(diǎn)的永久 故障。同時(shí)也是恢復(fù)未知故障 —在某一應(yīng)用設(shè)計(jì)過程中未預(yù)料到故障的唯一乎段。

2.1.5 　智能資源管理與調(diào)度因素 負(fù)載在系統(tǒng)的各處理結(jié)點(diǎn)上分布的均衡程度 被稱為負(fù)載平衡度。負(fù)載平衡度是影響并行效率 的重要因素。對(duì)集群計(jì)算機(jī)系統(tǒng)來(lái)說 ,  如何合理 地安排和調(diào)度任務(wù) ,  充分運(yùn)用各節(jié)點(diǎn)的處理能力 , 縮短程序的響應(yīng)時(shí)間 ,  是進(jìn)行并行計(jì)算必須解決 的問題。由于集群計(jì)算機(jī)系統(tǒng)具有資源共享動(dòng)態(tài) 變化的特點(diǎn) ,  而各節(jié)點(diǎn)的負(fù)載分布情況在很大程 度上影響著應(yīng)用程序的執(zhí)行效率 ,  因此 ,  需要為 系統(tǒng)的資源提供一種智能化的管理機(jī)制 ,  以更加充分、合理地利用系統(tǒng)資源 ,  加快應(yīng)用程序的執(zhí) 行速度。具體地說 ,  一個(gè)智能化的資源管理與調(diào) 度系統(tǒng)至少應(yīng)具備負(fù)載與系統(tǒng)信息的監(jiān)測(cè)與采集、 負(fù)載初始分配、動(dòng)態(tài)資源調(diào)度與任務(wù)遷移功能 , 除了以上技術(shù)外 ,  諸如單一系統(tǒng)映像 ,  DSM 并行模型的支持、并行 I/ O 、并行語(yǔ)言等技術(shù)也是集 群計(jì)算機(jī)的主要研究?jī)?nèi)容。 

 3 　集群系統(tǒng)的應(yīng)用  

高性能計(jì)算機(jī)系統(tǒng)一般用于解決大容量存儲(chǔ)、大數(shù)據(jù)量計(jì)算等需要大幅度降低處理時(shí)間以提高生產(chǎn)效率的應(yīng)用問題。許多對(duì)經(jīng)濟(jì)、科技和人類 社會(huì)的發(fā)展有廣泛影響的重大應(yīng)用問題都存在固 有的并行性。但是近幾年來(lái)由于價(jià)格、效率等因素的影響 ,  傳統(tǒng)巨型機(jī)、MPP 的應(yīng)用受到一定的 限制 ,  而集群計(jì)算機(jī)系統(tǒng)提供了一種建立從中小 規(guī)模到大規(guī)模并行處理系統(tǒng)的可擴(kuò)展的方法 ,  是 解決許多有關(guān)國(guó)計(jì)民生的重大計(jì)算問題的可行途 徑之一。以石油地震數(shù)據(jù)處理為例。在石油地震勘探 開發(fā)工作中 ,  三維地震勘探能提供比二維勘探更 精確的地下圖像 ,  接近實(shí)際地反映地下真實(shí)情況 , 有效地解決地質(zhì)問題。但是 ,  由于其數(shù)據(jù)量大、 計(jì)算量大、處理周期長(zhǎng) ,  特別是由于計(jì)算量大 , 因此許多先進(jìn)的三維地震資料處理方法在大型計(jì) 算機(jī)上難以實(shí)現(xiàn)。而并行處理則為實(shí)現(xiàn)這些方法 提供了可能。另外 ,  美國(guó)空間物理研究院在互聯(lián)網(wǎng)上開展 尋找外星人的集群算法活動(dòng) ,  將事先由射電望遠(yuǎn) 鏡記錄的資料轉(zhuǎn)成數(shù)據(jù)庫(kù)放在網(wǎng)上 ,  然后各用戶 通過該活動(dòng)的網(wǎng)頁(yè)下載算法程序 ,  利用空余機(jī)時(shí) 下載數(shù)據(jù)并進(jìn)行計(jì)算 ,  程序自動(dòng)將未計(jì)算過的數(shù) 據(jù)下載回來(lái) ,  計(jì)算完成后自動(dòng)上傳到網(wǎng)站上去 , 通過全世界喜歡宇宙探索的 PC 機(jī)使用者的空余 機(jī)時(shí)完成大型機(jī)才能勝任的計(jì)算。隨著網(wǎng)絡(luò)技術(shù)的發(fā)展和對(duì)集群計(jì)算機(jī)系統(tǒng)研 究的深入 ,  特別是高效通信機(jī)制的開發(fā) ,  系統(tǒng)的 通信性能將會(huì)接近專用的互聯(lián)網(wǎng)絡(luò) ,  并行編程環(huán) 境和工具更加完善 ,  集群計(jì)算機(jī)必將對(duì)許多具有 挑戰(zhàn)性的計(jì)算問題及國(guó)民經(jīng)濟(jì)起到積極影響。    

參考文獻(xiàn)
[1 ]鄭緯民. 集群系統(tǒng)的現(xiàn)狀與挑戰(zhàn)[J ] . 計(jì)算機(jī)教育 ,2004 , (6) :23
[ 2 ] 陳國(guó)良 ,吳俊敏. 高性能訓(xùn)算與高性能計(jì)算機(jī)[J ] . 2006 , (7)
[ 3 ] 劉仲. 基于對(duì)象存儲(chǔ)的集群存儲(chǔ)系統(tǒng)設(shè)計(jì)[ J ] 計(jì)算機(jī)工程與科 學(xué) ,2005 ,27 (2) :78 - 81
[ 4 ] 楊剛 ,龍海燕 ,楊 . 計(jì)算機(jī)總線發(fā)展新趨勢(shì)[J ] . 微計(jì)算機(jī)信息 , 2003 ,19 (1) :1 - 2
[ 5 ] 胡玉平. 集群計(jì)算機(jī)[J ] . 現(xiàn)代計(jì)算機(jī). 2001 , (12)