Intel 10nm Ice Lake十代酷睿處理器已經(jīng)上市，但它可不僅僅會用于輕薄筆記本，未來還會登陸服務器，而在兩個月前以色列海法(Intel重要研發(fā)基地)，Intel還展示了一款基于10nm Ice Lake打造的Nervana NNP-I(神經(jīng)網(wǎng)絡推理處理器)，但采用了M.2樣式。

Hot Chips 31芯片大會上，Intel首次公布了這款特殊產(chǎn)品的架構細節(jié)。

這是10nm Ice Lake十代酷睿處理器

這是基于Ice Lake改造的M.2 NNP-I

在無處不AI(AI Everywhere)的指導思想下，Intel正在研究各種各樣的AI軟硬件方案，包括CPU、GPU、FPGA、ASIC等等。

這款新的NNP-I代號為“Spring Hill”(溫泉山丘)，面向數(shù)據(jù)中心領域的輕度AI推理工作，能做成M.2擴展卡正是得益于10nm芯片的超小面積。

在原有10nm Ice Lake處理器的基礎上，Intel拿掉了兩個CPU計算核心、GPU核芯顯卡，同時加入12個推理計算引擎(ICE)，彼此基于硬件同步，同時每個ICE有自己的4MB SRAM緩存來減少數(shù)據(jù)轉移，并且和兩個CPU核心共享一致性互連、24MB三級緩存。

Intel還設計了一個深度學習計算網(wǎng)格(DL Compute Grid)，作為張量引擎的它通過數(shù)據(jù)和控制總線與SRAM、VP6 DSP互連，支持FP16、INT8、INT4、INT2、INT1等類型操作，其中DSP還可以處理一些特殊的算法。

CPU核心仍然是標準的Sunny Cove架構，支持AVX-512、VNNI指令集，可加速卷積神經(jīng)網(wǎng)絡，而完全繼承的FIVR電壓調(diào)節(jié)器可動態(tài)調(diào)整功耗，優(yōu)先滿足最需要的硬件單元。

內(nèi)置兩個LPDDR4X內(nèi)存控制器，整合封裝一顆內(nèi)存芯片與之配合，傳輸帶寬4.2GT/s(68GB/s)，并支持帶內(nèi)ECC，但容量未公布。

NNP-I與系統(tǒng)的通信通道走的是PCIe 3.0 x4或者PCIe 3.0 x8，帶寬不是事兒，但沒有用NVMe協(xié)議，只是標準的PCIe界面。

TDP功耗非常靈活，低可至10W，高可達50W，完全視性能需要而定，作為擴展卡也不受M.2 15W的限制。根據(jù)不同功耗配置，INT8整數(shù)能效在2-4.8TOP/s范圍內(nèi)。

Intel表示，10W TDP功耗下跑ResNet500，每分鐘推理數(shù)可達3600，等于效率高達4.8TOP/s，還是相當高的。

軟件方面，Intel會提供相應的開發(fā)工具，幫助負載將推理工作完全轉移到加速器上，完成后再通知至強CPU進行下一步處理，從而使得至強CPU不再需要通過PCIe總線和其他加速器彼此通信、轉移數(shù)據(jù)，大大節(jié)省計算資源和功耗。

Intel NNP-I目前已經(jīng)試產(chǎn)，將在年底投入規(guī)模量產(chǎn)并出貨，而且后續(xù)還有兩代新品正在設計中……