于無(wú)聲中聽(tīng)驚雷,AI神器落人間【下篇】
(本文作者桑尼,授權(quán)電子發(fā)燒友發(fā)布)大家好,老王回來(lái)了!書(shū)接上回,話說(shuō)在上篇中老王提到這些年一直在思考的幾個(gè)問(wèn)題,老王帶著這些問(wèn)題去尋找心儀的方案。哎,說(shuō)到這,老王不得不先吐槽這些年的市場(chǎng)亂象。
只見(jiàn)新聞 不見(jiàn)芯片
AI芯片市場(chǎng)可謂火爆異常,做芯片已經(jīng)不再是芯片公司的專利,這幾年可謂全民齊上陣,你方唱罷我登場(chǎng),芯片指標(biāo)沒(méi)有最高只有更高。每天的科技新聞絕大部分跟AI有關(guān),而這些AI新聞中必有AI芯片相關(guān)報(bào)道,獨(dú)角獸如雨后春筍,放衛(wèi)星此起彼伏,今日彎道超車,明天巨頭崩潰,形勢(shì)一片大好,不亦樂(lè)乎。奇怪的是,你們到底在市場(chǎng)上見(jiàn)到過(guò)誰(shuí)家的芯片?當(dāng)被問(wèn)到這個(gè)嚴(yán)肅的問(wèn)題時(shí),奇葩的回復(fù)一個(gè)接著一個(gè)。
A公司:“…對(duì)不起,我們的芯片將自用,不對(duì)外銷售… 順便:如果我們現(xiàn)在盈利,那么說(shuō)明我們沒(méi)有未來(lái)…”(PS:觀點(diǎn)新穎!這樣咒自己公司?投資人知道不?) B公司:“…我們的技術(shù)世界領(lǐng)先,但目前只做云側(cè)芯片,在端側(cè)我們只提供IP…”(PS: 與黃教主不共戴天?技術(shù)過(guò)硬為何不出端側(cè)IC?IP盈利周期太長(zhǎng),不懂?) C公司:“…我們的芯片將于今年Q3實(shí)現(xiàn)量產(chǎn)…”(PS: 親,您去年年初就在說(shuō)同樣的話!) D公司:“…我們將于年內(nèi)推出第三代芯片…”(PS: 勞駕,請(qǐng)問(wèn)貴司第一代和第二代芯片在哪里?) 。。。 。。。
魚(yú)龍混雜 真假難辨
常被混淆的概念比如:機(jī)器視覺(jué) = AI。很有必要談一下機(jī)器視覺(jué)(CV),這門技術(shù)有三十多年的歷史了,傳統(tǒng)機(jī)器視覺(jué)是手工設(shè)計(jì)特征算子,并不算是新技術(shù),今天的市場(chǎng)上仍然充斥著不少采用傳統(tǒng)機(jī)器視覺(jué)的產(chǎn)品(PS:只不過(guò)換了個(gè)名字叫“淺層神經(jīng)網(wǎng)絡(luò)”,國(guó)人的創(chuàng)新意識(shí)無(wú)處不在)。我們之前談到過(guò)這一大波兒AI以深度學(xué)習(xí)技術(shù)為代表,以卷積神經(jīng)網(wǎng)絡(luò)替代手工算子實(shí)現(xiàn)端到端應(yīng)用,而深度學(xué)習(xí)與傳統(tǒng)機(jī)器視覺(jué)的比拼在2012年時(shí)就有了結(jié)論:深度學(xué)習(xí)以無(wú)可爭(zhēng)議的優(yōu)勢(shì)勝出。所以,當(dāng)諸位研判方案時(shí),應(yīng)該首先確定到底是采用傳統(tǒng)機(jī)器視覺(jué)還是深度學(xué)習(xí)方法,到底是手工設(shè)計(jì)特征算子還是卷積神經(jīng)網(wǎng)絡(luò)。眾所周知,傳統(tǒng)機(jī)器視覺(jué)對(duì)環(huán)境的適應(yīng)性和泛化能力很差,準(zhǔn)確率低,產(chǎn)品的售后調(diào)參能調(diào)到你崩潰,根本無(wú)法大規(guī)模部署。老王直言,坑就在那里,睜大雙眼,不要去踩。
不畏浮云遮望眼
常言道“外行看熱鬧,內(nèi)行看門道”。老王行走江湖幾十年不敢說(shuō)閱芯(女)無(wú)數(shù),但用過(guò)的芯片接觸的公司也是不勝枚舉。評(píng)估一款芯片,由表及里,你會(huì)發(fā)現(xiàn)市場(chǎng)上被稱為AI芯片其實(shí)本質(zhì)卻是DSP(PS:多核高配ARM芯片同理),區(qū)別僅在于是自研還是集成第三方IP,必須要肯定的是,自研DSP并不簡(jiǎn)單,比如Movidius公司(已被Intel收購(gòu))十年磨一劍打造的Myriad系列是目前市場(chǎng)上為數(shù)不多能量產(chǎn)的方案,其他公司基本走集成IP路線,常被采用的IP包括CEVA,Tensillica, Imgtec, Vivante等等(PS:還有eGPU甚至eFPGA,無(wú)法落地端側(cè)的方案老王就不贅述了,集成IP卻言之創(chuàng)新讓老王不敢恭維)。必須要指出的是:無(wú)論自研還是集成IP,只要計(jì)算引擎的本質(zhì)是DSP(或ARM)那么難言創(chuàng)新,因?yàn)樗緹o(wú)法實(shí)現(xiàn)“高性能+低功耗”DSP方案常被用來(lái)處理傳統(tǒng)機(jī)器視覺(jué),但用來(lái)處理卷積運(yùn)算則根本無(wú)法勝任。DSP是萬(wàn)金油不假,但也只能充當(dāng)過(guò)渡性方案,說(shuō)到這,老王又把video行業(yè)的例子搬出來(lái),想當(dāng)年TI公司達(dá)芬奇系列就是DSP方案處理video,一度也是轟轟烈烈,而最終你看到有多少用達(dá)芬奇處理視頻編解碼的?老王選芯片不想重復(fù)“昨天的故事”,老王要“擁抱未來(lái)”。誠(chéng)然,未來(lái)人工智能在端側(cè)以“智商水平”來(lái)分級(jí),算力至少應(yīng)該從幾十TOPS起步,到幾百TOPS才能滿足基本的智商要求,這種等級(jí)的算力是DSP這種通用型芯片所望塵莫及的。老王直言,看清形勢(shì),上車要趁早。
翩若驚鴻 自成一派感謝諸位看官撥冗從頭看到這,終于到了解開(kāi)神秘面紗的時(shí)刻。老王苦心孤詣,不忘初心,潛心打造AI技術(shù)平臺(tái),服務(wù)于廣大開(kāi)發(fā)者。老王的平臺(tái)取名“若派Ropal”,源自“翩若驚鴻,自成一派”,“若派”平臺(tái)主推的這顆AI芯片的確稱得上自成一派,不同于現(xiàn)有市場(chǎng)上任何流派,符合老王列出的所有條件。這家芯片公司網(wǎng)上新聞極少,低調(diào)且神秘,再次強(qiáng)調(diào)老王并非等閑之輩,還是挖掘到了很多信息(PS:韓國(guó)某大廠朋友給老王送來(lái)的情資,嘿嘿,老王把隔壁都拓展到國(guó)外了)。這家公司名叫Gyrfalcon Technology Inc,芯片型號(hào)SPR2801S,是一款A(yù)I協(xié)處理器,專注加速卷積運(yùn)算,老王重點(diǎn)要說(shuō)的是這款芯片的架構(gòu)創(chuàng)新,“高性能+低功耗”真的可以同時(shí)有,毫不夸張的說(shuō),開(kāi)始老王也認(rèn)為是忽悠,但真正評(píng)估后發(fā)覺(jué),強(qiáng)中自有強(qiáng)中手,一山還有一山高,你想不到是因?yàn)槟愕佬胁粔蛏?。不說(shuō)別的,你可知道這款小小的芯片之上集成了多少個(gè)計(jì)算單元嗎?答案是28000多個(gè)!而峰值功耗只有0.3W,你沒(méi)看錯(cuò),老王開(kāi)始也認(rèn)為是看錯(cuò)了… …閑言少敘,重點(diǎn)說(shuō)創(chuàng)新,這款芯片集學(xué)術(shù)界最前沿的三項(xiàng)技術(shù)于一身:1、二維卷積(PS:美國(guó)MIT大學(xué)發(fā)表的論文Eyeriss了解一下);2、量化與壓縮(PS:美國(guó)Stanford大學(xué)發(fā)表的論文EIE了解一下);3、存算一體(PS:美國(guó)CMU大學(xué)發(fā)表的論文PiM了解一下)。等一下,有人可能會(huì)說(shuō)“老王,能再通俗一點(diǎn)嗎?我們聽(tīng)不懂!”好的,沒(méi)問(wèn)題,制約AI芯片發(fā)展的難題之一是運(yùn)算單元與片外存儲(chǔ)之間的數(shù)據(jù)移動(dòng)(data movement)無(wú)法消除,只要這個(gè)問(wèn)題不解決,那么AI芯片特別是在端側(cè)“算力上不去,功耗下不來(lái)”的局面就無(wú)法根本改善,GTI的創(chuàng)新則很好的解決了這個(gè)問(wèn)題。讓老王驚訝的是,當(dāng)這三項(xiàng)技術(shù)還停留在論文階段時(shí),竟然有公司已經(jīng)實(shí)現(xiàn)了,那背后的設(shè)計(jì)者是值得深挖一下的,去隔壁查了查,果然不出所料,這款芯片的首席設(shè)計(jì)師是一位名副其實(shí)的芯片界老炮兒,原來(lái)此人在1988年伯克利博士畢業(yè)時(shí)的論文即是CNN(PS:彼時(shí)還不叫卷積,而是細(xì)胞,其實(shí)一回事),一舉榮獲當(dāng)年IEEE的最佳論文獎(jiǎng)!此外,論文做到了知行合一,之后作者以模擬電路演示手寫字識(shí)別以論證其CNN理論。
所以嘛,創(chuàng)新哪有這么簡(jiǎn)單,原來(lái)是深藏三十年的功力今朝試鋒芒。內(nèi)行看門道,掌握這樣技術(shù)的公司還有什么樣的卷積加速芯片是不能做的?深入了解后發(fā)現(xiàn),這款芯片架構(gòu)是完全自主知識(shí)產(chǎn)權(quán),據(jù)說(shuō)還申請(qǐng)了多達(dá)六十幾項(xiàng)專利,杜絕出現(xiàn)“如有雷同純屬巧合”的事件,這樣看來(lái)GTI以后不自成一派也不行了。
上周業(yè)內(nèi)最火的新聞莫過(guò)于華為高調(diào)發(fā)布兩款A(yù)I芯片,繼谷歌之后,華為也完成了云與端的閉環(huán)。何為閉環(huán)?說(shuō)白了就是既有云側(cè)訓(xùn)練芯片,也有端側(cè)推理芯片,提供從訓(xùn)練到推理的全棧解決方案。對(duì)于其他大部分AI芯片公司來(lái)說(shuō),這無(wú)疑是在瑟瑟秋風(fēng)中送上一首《涼涼》,沒(méi)有閉環(huán)能力的公司在未來(lái)可想而知,為數(shù)不多的機(jī)會(huì)可能會(huì)出現(xiàn)在端側(cè)指標(biāo)上以數(shù)量級(jí)的優(yōu)勢(shì)勝出,但又有幾家公司能做到呢?(PPT造芯除外)。不過(guò),對(duì)老王來(lái)說(shuō)還好,第三次強(qiáng)調(diào)老王并非浪得虛名,老王看上的她必須有閉環(huán)能力(凹凸有致)。
最后,避免軟廣之嫌,避免老王賣瓜,避免給無(wú)辜小編找麻煩,欲了解老王的力作請(qǐng)猛戳這里:http://www.ropal.com.cn (PS: 電腦打開(kāi)鏈接效果好)
勾搭老王就是這樣簡(jiǎn)單,歐耶!