Graphcore 發(fā)布 7nm 級第二代 IPU,性能提升 8 倍
7 月 15 日消息,Graphcore 今日正式發(fā)布第二代 IPU 以及用于大規(guī)模系統級產品 IPU-Machine: M2000(IPU-M2000)。新產品比第一代 Graphcore IPU 性能提升 8 倍。中國很可能成為 Graphcore 最新推出的第二代處理器技術最先實現商業(yè)化落地的區(qū)域之一。
據介紹,IPU-M2000 是一款即插即用的機器智能刀片式計算單元,由 Graphcore 全新的 7 納米 Colossus 第二代 GC200 IPU 提供動力,并由 Poplar 軟件棧提供全面支持。其設計便于部署,并支持可擴展至大規(guī)模的系統。這款纖薄的 1U 刀片機可提供 1 個 PetaFlop 的機器智能計算,并集成了針對 AI 擴展優(yōu)化的網絡技術。
Graphcore 第二代 Colossus IPU 處理器:GC200
Graphcore IPU-M2000
IPU-M2000 可構建成 IPU-POD64 這一 Graphcore 全新模塊化機架規(guī)模解決方案,可用于極大型機器智能橫向擴展,提供前所未有的 AI 計算可能性,以及完全的靈活性和易于部署的特性。它可以從一個機架式本地系統擴展到高度互連的超高性能 AI 計算設施中的 1000 多個 IPU-POD64 系統。
“隨著 IPU-M2000 和 IPU-POD64 的推出,Graphcore 進一步擴大了我們在機器智能領域的產品競爭優(yōu)勢。”Graphcore 首席執(zhí)行官 Nigel Toon 指出:“Graphcore 通過技術創(chuàng)新實現更強有力的產品線,這些創(chuàng)新能夠提供客戶所期望的行業(yè)領先性能。對于尋求將機器智能計算添加到數據中心的客戶而言,Graphcore 最新推出的 IPU-M2000 憑借其強大的算力、易于擴展的靈活性和突出的易用性,將具有極強的可行性和價值提升潛力?!?/p>
Mk1 IPU 產品的用戶可以確信,他們現有的模型和系統可以在這些新的 Mk2 IPU 系統上無縫運行。與第一代 Graphcore IPU 產品相比,第二代產品的性能還將提高 8 倍。
Mk1 IPU 產品與 Mk2 IPU 產品性能對比
IPU-M2000 的設計使客戶可以在 IPU-POD?配置中構建多達 64,000 個 IPU 的數據中心規(guī)模系統,提供 16ExaFlops 的機器智能計算能力。新的 IPU-M2000 甚至能夠處理最艱巨的機器智能訓練或大規(guī)模部署工作負載。
Graphcore 全新的 IPU-Fabric 技術使大規(guī)模連接 IPU-M2000 和 IPU-POD 成為可能,該技術是專為機器智能通信而從頭設計的,并提供了專用的低時延結構,可在整個數據中心內連接 IPU。
Graphcore IPU-Fabric 技術
Graphcore 的 Virtual-IPU 軟件與工作量管理和編排軟件集成在一起,可以輕松地為許多不同的用戶提供訓練和推理服務,并允許根據工作情況調整和重新配置可用的資源。
Graphcore 的最新產品線是通過三大顛覆性技術創(chuàng)新實現的,這些創(chuàng)新可提供客戶期望的行業(yè)領先性能:
計算:每個 IPU-M2000 的核心都是 Graphcore 新的 Graphcore ColossusMk2 GC200 IPU。該芯片采用臺積電最新的 7 納米工藝技術開發(fā),每個芯片在一個 823 平方毫米的裸片上包含超過 594 億個晶體管,使其成為有史以來最復雜的處理器。數據:每個 IPU 都有大量的 In-Processor Memory。Graphcore 新型 Mk2 GC200 在處理器內部具有史無前例的 900MB 超高速 SRAM,在每個處理器內核旁邊都設有大量 RAM,以實現每位最低能量的訪問。Graphcore 的 Poplar 軟件還允許 IPU 通過 Graphcore 獨特的 Exchange-Memory?通信訪問 Streaming Memory?。這甚至可以支持具有數千億個參數的最大模型。每個 IPU-M2000 都可以支持密度高達 450GB 的 Exchange-Memory,以及前所未有的 180TB / 秒的帶寬。通信:IPU-M2000 具有內置的專用 AI 聯網 IPU-Fabric。Graphcore 創(chuàng)建了一個新的 Graphcore GC4000 IPU-Gateway 芯片,該芯片可提供令人難以置信的低時延和高帶寬,每個 IPU-M2000 均可提供 2.8Tbps。在從數十個 IPU 擴展到數以萬計個 IPU 的過程中,IPU-Fabric 技術使通信時延幾乎保持恒定。
“將強勁算力與網絡能力相結合,我們能夠處理全球最先進、最復雜的算法模型?!盙raphcore 高級副總裁兼中國區(qū)總經理盧濤表示:“這樣的算法模型,對中國本地的 AI 算法落地場景,如云計算、互聯網和通信等場景都會產生推動作用,并將為 AI 產業(yè)者提供巨大的價值?!?/p>
Graphcore 是一家英國 AI 芯片硬件設計初創(chuàng)公司,成立于 2016 年,總部位于英國布里斯托,Graphcore 的主要業(yè)務是設計用于 AI 應用程序的處理器,為云服務等應 用提供產品支持。其 16 納米 IPU GC2 處理器已量產。