近日，國際權(quán)威AI基準(zhǔn)評測組織MLPerf?公布新AI推理(Inference)V2.1榜單，包括21家世界主流芯片、系統(tǒng)廠商、云廠商參與本次評測，共提交超過5300項(xiàng)結(jié)果。在激烈的角逐中，紫光股份旗下新華三集團(tuán)服務(wù)器表現(xiàn)優(yōu)異，繼今年6月在MLPerf?AI訓(xùn)練(Training)榜單中斬獲25項(xiàng)第一后，本輪一舉奪得數(shù)據(jù)中心場景任務(wù)(Datacenter)和邊緣場景任務(wù)(Edge)61項(xiàng)世界第一，體現(xiàn)了新華三在人工智能領(lǐng)域深厚的技術(shù)積淀和優(yōu)秀實(shí)力。

MLPerf?由圖靈獎得主大衛(wèi)?帕特森(David?Patterson)聯(lián)合斯坦福、哈佛大學(xué)等頂尖學(xué)術(shù)機(jī)構(gòu)發(fā)起成立，是全球影響力最廣的AI性能基準(zhǔn)評測。其評測任務(wù)與AI領(lǐng)域的前沿應(yīng)用緊密結(jié)合，覆蓋當(dāng)下主流AI應(yīng)用場景，例如BERT(自然語言處理)、DLRM(推薦)、ResNet(圖像分類)、3D UNet(醫(yī)學(xué)圖像分割)等，行業(yè)用戶可根據(jù)評測結(jié)果了解廠商在AI領(lǐng)域的真正實(shí)力，為AI技術(shù)的發(fā)展和落地提供極大的應(yīng)用參考價值。

數(shù)據(jù)中心場景推理任務(wù)：34項(xiàng)世界第一

本輪MLPerf?評測，數(shù)據(jù)中心固定任務(wù)分為6個模型，16個測試項(xiàng)，面向多場景對各計算系統(tǒng)進(jìn)行測試。例如3D UNet(醫(yī)學(xué)圖像分割)、RetinaNet(目標(biāo)檢測)和ResNet50(圖像分類)測試，重點(diǎn)應(yīng)用于醫(yī)學(xué)圖像分析、自動駕駛、工業(yè)質(zhì)檢等場景，是數(shù)據(jù)中心的典型應(yīng)用領(lǐng)域，也是MLPerf?競爭最為激烈的主戰(zhàn)場。新華三集團(tuán)AI服務(wù)器憑借專業(yè)的AI系統(tǒng)設(shè)計和全棧優(yōu)化能力，一舉拿下數(shù)據(jù)中心場景測試34項(xiàng)評測任務(wù)世界性能冠軍，以及1項(xiàng)絕對配置第一。

在3D UNet模型任務(wù)中，R5300 G5在99.9%精度要求下，每秒能處理13.04張3D醫(yī)療影像的分割，平均只需十幾秒就可以輔助醫(yī)生完成病灶分析

在ResNet50模型任務(wù)中，R5500 G5每秒可對314368張圖片進(jìn)行分類，讓以圖搜圖的等待不再漫長

在RetinaNet模型任務(wù)中，R5500 G5每秒可完成對4657.04張圖片中的目標(biāo)進(jìn)行識別，讓交通肇事或生產(chǎn)質(zhì)量缺陷無處遁形

H3C UniServer R5300 G5作為“推理+訓(xùn)練”的全能型選手，共取得25項(xiàng)同配置第一，實(shí)力詮釋了其對于大規(guī)模、多元化、高復(fù)雜度AI場景的支撐能力，可提供1:8、1:4、1:2等多種拓?fù)渑渲?，靈活適應(yīng)不同人工智能場景的需求。同時，單機(jī)最高支持8塊雙寬GPU或20塊單寬GPU計算加速卡，相當(dāng)于40臺傳統(tǒng)服務(wù)器的運(yùn)算速度，全面加速人工智能及深度學(xué)習(xí)等大規(guī)模計算應(yīng)用場景的運(yùn)算效率。

邊緣場景推理賽道：27項(xiàng)世界第一

在邊緣推理賽道，H3C UniServer R5500 G5、R5300 G5、R4900 G5三款A(yù)I服務(wù)器同樣表現(xiàn)出色，在邊緣固定任務(wù)中共斬獲27項(xiàng)世界第一，其中3項(xiàng)絕對配置第一。R5500 G5在本輪推理評測中拿下19項(xiàng)同配置第一，彰顯了其在邊緣推理場景下的強(qiáng)大競爭力。

R5500 G5針對Transformer架構(gòu)模型進(jìn)行優(yōu)化，為機(jī)器視覺、自然語言處理等多種AI業(yè)務(wù)提供強(qiáng)大支持，在單線程模式下BERT推理時延僅為1.53毫秒。同時，R5500 G5支持全新的多實(shí)例GPU特性，可將單顆GPU分割成7個GPU實(shí)例，每個GPU實(shí)例運(yùn)行不同應(yīng)用，極大地提升了GPU的資源利用率，滿足業(yè)務(wù)快速部署的需求。

數(shù)字化時代，以人工智能技術(shù)加速業(yè)務(wù)創(chuàng)新已成為行業(yè)共識。作為數(shù)字化解決方案領(lǐng)導(dǎo)者，未來，新華三集團(tuán)將繼續(xù)深耕人工智能領(lǐng)域，依托“云智原生”戰(zhàn)略和數(shù)字大腦的全棧實(shí)力，讓內(nèi)生智能的智慧計算持續(xù)賦能百行百業(yè)數(shù)字化轉(zhuǎn)型，為數(shù)字經(jīng)濟(jì)的發(fā)展注入源源不斷的智慧動力。