耐能以NPU為方向 或成為AI產(chǎn)業(yè)的arm
AI已經(jīng)無(wú)疑是現(xiàn)在市場(chǎng)的絕對(duì)主角。隨著概念的火熱。圍繞著AI芯片、算法和應(yīng)用應(yīng)運(yùn)而生的企業(yè)已經(jīng)不勝枚舉。當(dāng)中的很多憑借自己的優(yōu)勢(shì)也已經(jīng)獲得了客戶(hù)和投資人的認(rèn)可,耐能(Kneron)就是其中的一個(gè)。
在去年11月宣布從阿里、奇景光電、中華開(kāi)發(fā)資本、高通、中科創(chuàng)達(dá)、紅杉資本與創(chuàng)業(yè)邦獲得了超過(guò)千萬(wàn)美元的A輪融資以后,AI初創(chuàng)企業(yè)耐能最近推出了他們的全新人工智能IP產(chǎn)品。而這個(gè)市場(chǎng),在國(guó)內(nèi)外都不缺乏競(jìng)爭(zhēng)者,尤其是ARM和寒武紀(jì)的優(yōu)勢(shì)最為突出:前者擁有包括CPU、GPU、工具和晶圓廠(chǎng)配套IP在內(nèi)的龐大生態(tài),后者則由于Kirin 970的采用,在容量巨大的手機(jī)市場(chǎng)找到了一個(gè)入口。
在AI這個(gè)已經(jīng)巨頭林立的市場(chǎng)里,成立僅四年的耐能如何才能突破包圍圈?為此,半導(dǎo)體行業(yè)觀察特意采訪(fǎng)了耐能科技的創(chuàng)始人劉峻誠(chéng)博士,了解一下他的“攻城”之道。
從客制化開(kāi)始,以NPU為方向
在創(chuàng)立耐能之前,劉峻誠(chéng)曾在 、三星和高通等企業(yè)任職。到了2014年,由于看到人工智能NPU的潛力,在高通從事了三年多神經(jīng)網(wǎng)絡(luò)終端應(yīng)用等工作開(kāi)發(fā)的劉峻誠(chéng)創(chuàng)立了耐能。
所謂NPU就是Neural-network Processing Unit的簡(jiǎn)稱(chēng),也就是神經(jīng)網(wǎng)絡(luò)處理單元,這是一種針對(duì)深度學(xué)習(xí)而設(shè)計(jì)的專(zhuān)業(yè)芯片。這種脫離了傳統(tǒng)馮諾依曼結(jié)構(gòu)的處理器通過(guò)專(zhuān)門(mén)的設(shè)計(jì),非常適合深度學(xué)習(xí)的實(shí)現(xiàn),進(jìn)而實(shí)現(xiàn)人工智能。這是現(xiàn)在實(shí)現(xiàn)人工智能的幾種方式之一,華為Kirin 970就是采用了NPU的方式。但另外還有CPU、GPU、FPGA和DSP等多種方案可以執(zhí)行人工智能的算法。但耐能從成立伊始就專(zhuān)門(mén)從事AI專(zhuān)用芯片NPU的IP產(chǎn)品的研發(fā)。采用ARM那樣的IP授權(quán)方式進(jìn)行經(jīng)營(yíng)。
在問(wèn)到為何選擇這個(gè)方向的時(shí)候,劉峻誠(chéng)告訴半導(dǎo)體行業(yè)觀察記者:“會(huì)選擇IP的主要考量是成本和風(fēng)險(xiǎn),以及彈性。若要直接提供芯片,需要的資本非常雄厚,以新創(chuàng)公司來(lái)說(shuō),負(fù)擔(dān)會(huì)很大,也意謂著風(fēng)險(xiǎn)會(huì)很高。此外,提供IP授權(quán)的商業(yè)模式較為彈性,我們希望能借重合作伙伴的力量,共同推廣AI,讓它更快普及。”
在團(tuán)隊(duì)的努力下,耐能于2016年推出了相關(guān)的IP。但據(jù)劉峻誠(chéng)介紹,當(dāng)時(shí)的IP主要是根據(jù)客戶(hù)的特殊需求定制的。例如騰訊就和他們合作研發(fā)了智能導(dǎo)航、臉部識(shí)別和AI算法,甚至連騰訊的智能車(chē)“神眼”項(xiàng)目都是用的耐能產(chǎn)品。
在積累了豐富的經(jīng)驗(yàn)并充分了解了客戶(hù)的需求之后,耐能在日前推出了全新的三大產(chǎn)品線(xiàn)。
推三大產(chǎn)品線(xiàn),最低做到5mw功耗這次耐能推出的是Kneron NPU IP系列產(chǎn)品。
所謂Kneron NPU IP,據(jù)耐能介紹,那就是該公司針對(duì)終端設(shè)備所設(shè)計(jì)的專(zhuān)用人工智能處理器,能讓終端設(shè)備在離線(xiàn)環(huán)境下,就能運(yùn)行 ResNet、YOLO等深度學(xué)習(xí)網(wǎng)絡(luò)。Kneron NPU為完整的終端人工智能硬件解決方案,包含硬件IP、編譯程序(Compiler)以及模型壓縮(Model compression)三大部分,可支持各種主流的卷積神經(jīng)網(wǎng)絡(luò)(ConvoluTIonalNeur al Networks,CNN)模型,如Resnet-18、Resnet-34、Vgg16、GoogleNet、以及Lenet等,以及支持主流深度學(xué)習(xí)框架,包括Caffe、Keras和TensorFlow。
由于Kneron NPU IP能結(jié)合Kneron影像識(shí)別軟件,提供實(shí)時(shí)識(shí)別分析、快速響應(yīng),不僅能更穩(wěn)定,也能滿(mǎn)足安全隱私需求。由于軟硬件可緊密整合,讓整體方案體積更小、功耗更低,以協(xié)助產(chǎn)品快速開(kāi)發(fā)。
對(duì)這系列IP有了基本了解后,我們回到最新發(fā)布的三系列產(chǎn)品:超低功耗版KDP300、標(biāo)準(zhǔn)版KDP500、以及高效能版KDP 700。
據(jù)耐能方面介紹,KDP300鎖定手機(jī)3D臉部識(shí)別應(yīng)用,可進(jìn)行3D結(jié)構(gòu)光與來(lái)自雙鏡頭的立體影像識(shí)別分析,讓真人臉部識(shí)別更快速精準(zhǔn)。KDP300亦適用于需要超低功耗的終端設(shè)備,該處理器包含運(yùn)算與靜態(tài)隨機(jī)存取內(nèi)存(SRAM)的功耗不到5毫瓦;
KDP500則是可進(jìn)行快速實(shí)時(shí)、大規(guī)模的臉部、手勢(shì)、身體識(shí)別與分析,以及深度學(xué)習(xí)。適用于智能家居、智能安防等領(lǐng)域。運(yùn)算能力可達(dá)152GOPS(500MHz) (每秒十億次運(yùn)算),功耗僅有100毫瓦;
KDP 700能處理更進(jìn)階與復(fù)雜的人工智能運(yùn)算,以及深度學(xué)習(xí)推理應(yīng)用,可應(yīng)用在高階智能型手機(jī)、機(jī)器人、無(wú)人機(jī)、智能監(jiān)控設(shè)備等。KDP 700具有優(yōu)異的運(yùn)算能力,信息吞吐量可高達(dá)4.4 TOPS(1GHz) (每秒萬(wàn)億次運(yùn)算),功耗為300~500毫瓦;官方表示,這系列產(chǎn)品可滿(mǎn)足智能家居、智能安防、智能手機(jī),以及各種物聯(lián)網(wǎng)設(shè)備的應(yīng)用。
在接受半導(dǎo)體行業(yè)觀察采訪(fǎng)的時(shí)候,劉峻誠(chéng)指出這些產(chǎn)品擁有以前產(chǎn)品不具備的特性:例如他們首度推出的,功耗不到5毫瓦的產(chǎn)品,體積也首度達(dá)到了長(zhǎng)、寬可以在2毫米以?xún)?nèi),這就讓它可以滿(mǎn)足非常小體積產(chǎn)品上的設(shè)計(jì)。
“又因?yàn)榧夹g(shù)上的提升,每瓦效能也有了突破,過(guò)往大約是1~1.5 TOPS/W,但以這次推出的高效能版KDP 700在16納米制程下,可以高達(dá)11.6 TOPS/W”,劉峻誠(chéng)強(qiáng)調(diào)。
KDP 500預(yù)計(jì)第二季進(jìn)入量產(chǎn)制造(Mask tape-out)階段,KDP 300和KDP 700的量產(chǎn)時(shí)間也和客戶(hù)密切討論中。
高手林立,底氣來(lái)自哪里?耐能并不是唯一一個(gè)做NPU的廠(chǎng)商,在前面我們已經(jīng)提到寒武紀(jì),在這個(gè)領(lǐng)域就是一個(gè)專(zhuān)家,甚至一個(gè)獨(dú)角獸,并且已經(jīng)在Kirin 970上得到了驗(yàn)證。作為一個(gè)產(chǎn)品相對(duì)新的企業(yè),如何與對(duì)手競(jìng)爭(zhēng)時(shí)?在問(wèn)到這個(gè)問(wèn)題的時(shí)候,劉峻誠(chéng)并沒(méi)有直接回答,但他強(qiáng)調(diào):“AI解決方案,無(wú)論是軟件或是硬件 IP,有一個(gè)關(guān)鍵處,就是它的規(guī)格跟功能會(huì)跟應(yīng)用有很大的關(guān)系,舉例來(lái)說(shuō),提供給手機(jī)跟提供給車(chē)用的方案,就會(huì)有很大的差異。目前不同廠(chǎng)商鎖定的領(lǐng)域都有些差異,很難直接做比較。”
他指出,耐能的IP擁有以下幾點(diǎn)優(yōu)勢(shì),這是他們未來(lái)在市場(chǎng)上立足的根本:
首先,在IP產(chǎn)品上,耐能這次推出了很完整的產(chǎn)品線(xiàn),而且規(guī)格非常優(yōu)異。以KDP 300來(lái)說(shuō),在功耗如此低、體積這樣小的規(guī)格下,就能在手機(jī)上做3D影像分析辨識(shí),以作為解鎖等應(yīng)用,市場(chǎng)上應(yīng)該還沒(méi)有其他廠(chǎng)商可以做到這種程度。我們很有信心我們的解決方案在市場(chǎng)上非常有競(jìng)爭(zhēng)力,劉峻誠(chéng)強(qiáng)調(diào)。
其次,相較于某些廠(chǎng)商僅提供硬件架構(gòu)IP,瑞能的NPU IP是一個(gè)更完整的解決方案,除了有NPU IP架構(gòu),還包含模型壓縮技術(shù),可以把未經(jīng)壓縮的模型壓縮數(shù)十倍。另外,也包含已經(jīng)訓(xùn)練好數(shù)據(jù)的軟件,所以說(shuō)瑞能的NPU IP本身其實(shí)就是一個(gè)完整的軟硬件整合方案。
第三,除了NPU IP之外,瑞能還自己開(kāi)發(fā)影像辨識(shí)軟件產(chǎn)品。結(jié)合Kneron NPU和Kneron影像辨識(shí)軟件,將軟硬件緊密整合,這樣獲得的整體方案體積更小、功耗更低,能協(xié)助客戶(hù)快速開(kāi)發(fā)產(chǎn)品。
另外,劉峻誠(chéng)還強(qiáng)調(diào),耐能的優(yōu)勢(shì)在于擁有應(yīng)用范圍比較廣的產(chǎn)品線(xiàn),這也是很多其他對(duì)手所不能比擬的。
市場(chǎng)競(jìng)爭(zhēng)激烈,利基是成功關(guān)鍵無(wú)論哪個(gè)市場(chǎng),有豐厚利益收入的時(shí)候,必然會(huì)伴隨著巨大的風(fēng)險(xiǎn),AI芯片市場(chǎng)也不例外。從誕生開(kāi)始,耐能就經(jīng)歷著巨大的壓力和挑戰(zhàn)。但就劉峻誠(chéng)看來(lái),這些壓力并不是來(lái)自特定廠(chǎng)商,而是來(lái)自多變的AI市場(chǎng),因?yàn)檫@個(gè)市場(chǎng)實(shí)在太新了,且變化很快,這就讓其具有極大的不確定性。
“為了在這個(gè)市場(chǎng)中找到生存的空間,利基很重要”,劉峻誠(chéng)告訴半導(dǎo)體行業(yè)觀察的記者。耐能在這方面也一直在在前面。由于他們?cè)贏I領(lǐng)域發(fā)展得早,也一直在加快其步伐,這讓他們?cè)谄渌麖S(chǎng)商開(kāi)始談他們的AI策略跟規(guī)劃時(shí),自己就就已經(jīng)開(kāi)發(fā)出產(chǎn)品,并有了客戶(hù);在競(jìng)爭(zhēng)對(duì)手發(fā)展出產(chǎn)品時(shí),我們甚至已經(jīng)可以提供了完整的解決方案,劉峻誠(chéng)補(bǔ)充說(shuō)。
以智能手機(jī)市場(chǎng)為例,耐能很早就看到了這個(gè)領(lǐng)域會(huì)成為AI應(yīng)用的重點(diǎn)戰(zhàn)場(chǎng),也知道當(dāng)中盤(pán)繞著包括ARM在內(nèi)的眾多競(jìng)爭(zhēng)對(duì)手,為此他們一早就規(guī)劃了自己的應(yīng)對(duì)措施:現(xiàn)在的耐能在智能手機(jī)方面擁有完整的解決方案,覆蓋了高中低三個(gè)完整產(chǎn)品線(xiàn)。
而根據(jù)研究機(jī)構(gòu)Gartner預(yù)測(cè),雖然目前智能手機(jī)上的AI應(yīng)用仍處于相當(dāng)早期的階段,但到了2022年,智能手機(jī)當(dāng)中將有80%內(nèi)建AI功能。這和耐能的“利基”觀點(diǎn)也是吻合的。
劉峻誠(chéng)強(qiáng)調(diào),市場(chǎng)有很多可能性和不確定性,誰(shuí)能夠洞燭先機(jī),并作快速的調(diào)整和回應(yīng),就能取得優(yōu)勢(shì)
“我們的目標(biāo)是,讓AI不只是高階產(chǎn)品的專(zhuān)屬,而是成為人人都可以使用的功能”,劉峻誠(chéng)說(shuō)。他也同時(shí)指出,在AI市場(chǎng),不會(huì)再有那些能在所有市場(chǎng)獲得成功的玩家,但某個(gè)細(xì)分領(lǐng)域必然會(huì)出現(xiàn)霸主,這是顯而易見(jiàn)的。
在問(wèn)到耐能是否有機(jī)會(huì)成為人工智能IP領(lǐng)域的ARM的時(shí)候。劉峻誠(chéng)首先指出,如果要做到ARM這樣大的影響力,那就需要布局量比較大的行業(yè)(例如汽車(chē)和手機(jī)),雖然在汽車(chē)方面耐能布局不深,但是在手機(jī)方面則會(huì)有比較好的表現(xiàn),尤其是今年,這部分有很大機(jī)會(huì)會(huì)給耐能帶來(lái)巨大的機(jī)會(huì)。
除了手機(jī)外,安防、IoT也是耐能所專(zhuān)長(zhǎng)的領(lǐng)域,尤其是后者。在劉峻誠(chéng)看來(lái),IoT這個(gè)領(lǐng)域他們基本沒(méi)看到什么競(jìng)爭(zhēng)對(duì)手。
劉峻誠(chéng)坦言,如果公司能在以上這三個(gè)領(lǐng)域能夠達(dá)到幾千萬(wàn)和上億的出貨量,這樣公司的影響力就不言而喻。從目前看起來(lái)有一兩個(gè)領(lǐng)域很有機(jī)會(huì)達(dá)到這個(gè)數(shù)字,劉強(qiáng)調(diào)。
這樣看來(lái),成為AI產(chǎn)業(yè)的ARM,對(duì)耐能來(lái)說(shuō),并不是沒(méi)有機(jī)會(huì)!