隨著計(jì)算需求的增長，GPU需要擁有快速讀取內(nèi)存中大量數(shù)據(jù)的能力，HBM高帶寬內(nèi)存迎來了機(jī)遇。為增進(jìn)大家對HBM高帶寬內(nèi)存的認(rèn)識，本文將對HBM高帶寬內(nèi)存以及HBM3予以介紹。如果你對HBM高帶寬內(nèi)存具有興趣，不妨繼續(xù)往下閱讀哦。

一、HBM

HBM技術(shù)的出現(xiàn)，可以說是存儲領(lǐng)域的一次革命。它采用了一種獨(dú)特的3D堆疊設(shè)計(jì)，將多層DRAM芯片垂直堆疊在一起，通過硅通孔（TSV）和微型凸點(diǎn)（uBump）連接在一起，形成一個存儲堆棧。這種設(shè)計(jì)不僅提升了存儲密度，也大幅增加了每個存儲堆棧的容量和位寬。想象一下，這就像是把一本書的每一頁都變成一張存儲卡，然后把它們堆疊在一起，這樣就能在更小的空間里存儲更多的數(shù)據(jù)。

HBM技術(shù)的核心優(yōu)勢在于其高帶寬、低功耗和緊湊的尺寸。這些特點(diǎn)讓它在處理大量數(shù)據(jù)時更加高效，同時也降低了系統(tǒng)的功耗和散熱壓力。比如，HBM的帶寬可以達(dá)到傳統(tǒng)DDR內(nèi)存的數(shù)倍，這對于需要處理大規(guī)模數(shù)據(jù)的實(shí)時應(yīng)用來說至關(guān)重要。而且，由于數(shù)據(jù)傳輸?shù)木嚯x縮短，電能在傳輸過程中的損失也減少了，這在高性能計(jì)算和數(shù)據(jù)中心等領(lǐng)域是一個巨大的優(yōu)勢。

HBM技術(shù)的發(fā)展也相當(dāng)迅速。從2013年JEDEC（聯(lián)合電子設(shè)備工程委員會）首次發(fā)布HBM標(biāo)準(zhǔn)以來，這項(xiàng)技術(shù)已經(jīng)經(jīng)歷了多次迭代。HBM1作為第一代產(chǎn)品，以其128GB/s的帶寬和4GB的內(nèi)存容量，遠(yuǎn)超當(dāng)時的GDDR5。隨后，HBM2將帶寬提升至256GB/s，內(nèi)存容量也增加到8GB。到了HBM2E，傳輸速度提升至3.6Gbps，內(nèi)存增加至16GB。而最新的HBM3，傳輸速度最高可達(dá)819GB/s，內(nèi)存容量也達(dá)到了16GB。

HBM技術(shù)的應(yīng)用領(lǐng)域也在不斷擴(kuò)展。在高性能計(jì)算（HPC）領(lǐng)域，HBM存儲芯片能夠提供更快的數(shù)據(jù)傳輸和處理速度，這對于存儲大規(guī)模數(shù)據(jù)集和進(jìn)行大規(guī)模并行計(jì)算至關(guān)重要。在圖形處理器（GPU）領(lǐng)域，HBM的高帶寬和低延遲特性使得GPU在處理圖形和圖像數(shù)據(jù)時更加高效。在人工智能（AI）領(lǐng)域，HBM技術(shù)也在存儲和處理大規(guī)模神經(jīng)網(wǎng)絡(luò)模型中發(fā)揮著重要作用，提供更高的帶寬和低延遲，加快AI計(jì)算速度和效率。數(shù)據(jù)中心同樣受益于HBM技術(shù)，它能夠提供更高的數(shù)據(jù)吞吐量和更低的能耗，提升數(shù)據(jù)中心的計(jì)算性能和效率。

二、HBM3

從高性能計(jì)算到人工智能訓(xùn)練、游戲和汽車應(yīng)用，對帶寬的需求正在推動下一代高帶寬內(nèi)存的發(fā)展。

HBM3將帶來2X的帶寬和容量，除此之外還有其他一些好處。雖然它曾經(jīng)被認(rèn)為是一種“慢而寬”的內(nèi)存技術(shù)，用于減少芯片外內(nèi)存中的信號傳輸延遲，但現(xiàn)在HBM3正變得越來越快，越來越寬。在某些情況下，甚至被用于L4緩存。

Arm首席研究工程師Alejandro Rico表示：“這些新功能將使每傳輸位的焦耳效率達(dá)到更高水平，而且更多設(shè)計(jì)可以使用HBM3-only內(nèi)存解決方案，不需要額外的片外存儲。AI/ML、HPC和數(shù)據(jù)分析等應(yīng)用可以利用大帶寬來保持可擴(kuò)展性。合理利用HBM3帶寬需要一個具有高帶寬片上網(wǎng)絡(luò)和處理元素的處理器設(shè)計(jì)，通過提高內(nèi)存級并行性來使數(shù)據(jù)速率最大化?！?

人工智能訓(xùn)練芯片通常需要處理萬億字節(jié)的原始數(shù)據(jù)，而HBM3可以達(dá)到這個水平。Rambus的產(chǎn)品營銷高級總監(jiān)Frank Ferro指出：“用戶在開發(fā)ASIC電路來更好地解決人工智能問題的同時，需要更多的帶寬。

每個用戶都試圖想用一個更高效的處理器來實(shí)現(xiàn)他們特定的神經(jīng)網(wǎng)絡(luò)，并在實(shí)現(xiàn)時達(dá)到更好的內(nèi)存利用率和CPU利用率。對于人工智能訓(xùn)練來說，HBM一直是最佳選擇，因?yàn)樗峁┝烁鄮捄透凸?。雖然價格上有點(diǎn)貴，但對于這些應(yīng)用程序來說（尤其是進(jìn)入云計(jì)算的應(yīng)用程序）還是負(fù)擔(dān)得起的。HBM3實(shí)際上只是一種自然遷移?！?

雖然JEDEC尚未公布未獲批準(zhǔn)的HBM3規(guī)范細(xì)節(jié)，但Rambus報(bào)告稱其HBM3子系統(tǒng)帶寬將增加到8.4 Gbps（HBM2e為3.6Gbps）。采用HBM3的產(chǎn)品預(yù)計(jì)將在2023年初發(fā)貨。

“當(dāng)芯片的關(guān)鍵性能指標(biāo)是每瓦特內(nèi)存帶寬，或者HBM3是實(shí)現(xiàn)所需帶寬的唯一途徑時，采用HBM3是有益的，”Cadence的IP組總監(jiān)Marc Greenberg表示：“與基于PCB的方法（如DDR5、LPDDR5/5X或GDDR6）相比，這種帶寬和效率的代價是在系統(tǒng)中增加額外的硅，并可能增加制造/組裝/庫存成本。額外的硅通常是一個插入器，以及每個HBM3 DRAM堆棧下面的一個基模?！?

以上便是此次帶來的微控制器相關(guān)內(nèi)容，通過本文，希望大家對微控制器已經(jīng)具備一定的了解。如果你喜歡本文，不妨持續(xù)關(guān)注我們網(wǎng)站哦，將于后期帶來更多精彩內(nèi)容。最后，十分感謝大家的閱讀，have a nice day!