TrendForce集邦咨詢：Cloud AI Server需求強勁，促NVIDIA FY2Q24數(shù)據(jù)中心業(yè)務占比首次突破76%
Aug. 24, 2023 ---- 據(jù)NVIDIA最新財報數(shù)據(jù)(FY2Q24)顯示，其數(shù)據(jù)中心業(yè)務達103.2億美元，季成長率141%，年成長率更高達171%，且NVIDIA看好后續(xù)成長力道。TrendForce集邦咨詢認為，主要NVIDIA高營收成長動力來自于其數(shù)據(jù)中心AI服務器相關解決方案業(yè)務，主力產(chǎn)品包含AI加速芯片GPU、AI服務器參考架構HGX等，作為大型數(shù)據(jù)中心的AI 基礎設施。
同時，TrendForce集邦咨詢預期，NVIDIA將進一步整合其軟硬件資源，并更細致地將其高端及中低端GPU AI加速芯片，與各ODM或OEM綁定合作軟硬件系統(tǒng)認證模式。除了加速在CSP云端AI服務器基礎設施布建之外，也和VMware等合作Private AI Foundation等方案，將其觸角延伸至邊緣Enterprises AI服務器市場，以支撐其今、明兩年數(shù)據(jù)中心業(yè)務穩(wěn)定成長。
Cloud AI強勁需求驅動，NVIDIA數(shù)據(jù)中心業(yè)務占比超越76%
NVIDIA近年積極布局數(shù)據(jù)中心業(yè)務，F(xiàn)Y4Q22當時數(shù)據(jù)中心業(yè)務營收約占42.7%，尚落后于Gaming業(yè)務營收約2個百分點，于FY1Q23后正式超越Gaming業(yè)務營收，占比逾45%。自2023年起，各大CSP大舉投入ChatBOT及公有云各種AI服務基礎設施后，NVIDIA更直接受惠，F(xiàn)Y2Q24數(shù)據(jù)中心業(yè)務營收占比一舉突破76%。 NVIDIA將分攻Cloud及Edge Data Center AI應用市場 TrendForce集邦咨詢觀察，預估NVIDIA在高端GPU產(chǎn)品銷售策略上，將于2023下半年后有所轉變，原高端AI服務器以搭載A100及H100為主，在市場需求大好的預期下，將改主攻售價更高的H100，才能有效刺激數(shù)據(jù)中心相關業(yè)務營收向上。
中端GPU方面，以近期主推的L40s為主打方案，其中有幾個主要策略意義。首先，高端H100系列受限于目前CoWoS、HBM等產(chǎn)能瓶頸，而L40s則主要搭配GDDR存儲器，因不須CoWoS封裝，可加速導入中端AI服務器市場，補足原A100 PCIe接口對Enterprises客戶需求缺口。
其次，L40s也同時主攻如Enterprises客戶，不需使用如ChatGPT數(shù)量龐大的參數(shù)模型，而是主攻較小型化(約數(shù)十billion~百billion參數(shù)量以下)各專業(yè)領域的AI Training應用，亦或針對邊緣AI Inference或影像分析等使用。最后，低階GPU系列，則以L4或T4系列為主打，主打邊緣AI服務器實時AI推論或影像分析使用，并更強調(diào)較低價，其高C/P值的產(chǎn)品特性。
HGX及MGX等AI服務器參考架構將是NVIDIA下半年后主攻AI方案的利器
TrendForce集邦咨詢觀察，近期NVIDIA除針對其核心AI芯片GPU進行更細致化的產(chǎn)品定位外，也積極主推其HGX及MGX等方案，而這并不是服務器產(chǎn)業(yè)鏈首見做法，但NVIDIA有機會在此策略上穩(wěn)固領先利基。主要是NVIDIA藉由高度整合其GPU加上CUDA建立完整AI生態(tài)系下處絕對領先位置，故對既有的服務器供應鏈有較強議價能力，藉此要求ODM如Inventec、Quanta、FII、Wistron、Wiwynn等，或品牌業(yè)者如Dell、Supermicro、Gigabyte等，依據(jù)NVIDIA的HGX或MGX參考設計，且需經(jīng)過NVIDIA于該AI 服務器參考架構的軟硬件認證過程。NVIDIA藉此可整合兜售其Arm CPU Grace及NPU或AI Cloud Foundation等軟硬件解決方案。
值得注意的是，對ODM或OEM而言，由于預期NVIDIA于2023~2024年在云端服務業(yè)者的AI服務器主力市場將大有斬獲，有利于拉抬整體AI服務器出貨量及營收成長，但隨著NVIDIA策略性導入HGX或MGX等標準化AI服務器架構，也使未來ODM等業(yè)者將因AI server核心產(chǎn)品架構較趨于同質(zhì)化而使彼此爭取CSPs等訂單之競爭態(tài)勢更趨于白熱化。此外，觀察大型CSPs如Google、AWS未來有擴大導入自研ASIC AI加速芯片趨勢，亦可能侵蝕部分NVIDIA GPU市場，估此亦為NVIDIA持續(xù)推展不同定位GPU產(chǎn)品及整體方案，欲進一步將AI業(yè)務積極拓展至Tier-2數(shù)據(jù)中心如CoreWeave等及邊緣Enterprises客戶的主因之一。
下載文檔
