人工智能技術(shù)(AI)現(xiàn)在已是如火如荼的發(fā)展著,各種傳感器,機(jī)器學(xué)習(xí),外圍設(shè)備五花八門,然而，其核心的數(shù)據(jù)處理硬件架構(gòu)仍基于經(jīng)典的馮·諾依曼結(jié)構(gòu)。馮·諾依曼結(jié)構(gòu)已有七八十年歷史,這就好比已經(jīng)直立行走的智人,仍長著一顆猩猩的腦袋。這就出現(xiàn)了馮·諾依曼瓶頸,也就是說CPU再快,也要等內(nèi)存,因?yàn)镃PU和內(nèi)存之間的性能差距越來越大。

馮·諾依曼結(jié)構(gòu)

馮·諾依曼結(jié)構(gòu)中,計算模塊和存儲單元是分離的,CPU在執(zhí)行命令時必須先從存儲單元中讀取數(shù)據(jù)。每一項(xiàng)任務(wù),如果有十個步驟,那么CPU會依次進(jìn)行十次讀取,執(zhí)行,再讀取,再執(zhí)行。.. 這就造成了延時,以及大量功耗(80%)花費(fèi)在了數(shù)據(jù)讀取上,當(dāng)然多核、多CPU或一些常用數(shù)據(jù)的就地存儲會一定程度上緩解這些問題,但這種中心處理的架構(gòu)會限制處理能力的進(jìn)一步發(fā)展,好比諾大個北京城,如果所有的政治、經(jīng)濟(jì)、文化活動都集中在市中心,為了生活,人們必須穿城而過,任你路修到二十環(huán),還是一個詞,堵死。

學(xué)術(shù)界和工業(yè)界出現(xiàn)了向人類大腦學(xué)習(xí)體系結(jié)構(gòu)的趨勢,大腦的處理單元是神經(jīng)元,內(nèi)存就是突觸。神經(jīng)元和突觸是物理相連的,所以每個神經(jīng)元計算都是本地的,而且從全局來看神經(jīng)元們是分布式在工作。

神經(jīng)元和突觸

前幾年轟動全球的IBM的仿人腦芯片TrueNorth也模仿了人類大腦的神經(jīng)元結(jié)構(gòu),它的計算效率和可擴(kuò)展性都遠(yuǎn)超現(xiàn)在的計算機(jī),并且宣稱可用于手勢識別、情緒識別、圖像分類和對象追蹤、實(shí)時語音識別等領(lǐng)域。而記者采訪的團(tuán)隊(duì)AI-CTX,他們的模型基于億萬個可以相互連接的仿生神經(jīng)元,每個神經(jīng)元都具有跟人腦神經(jīng)元類似的電學(xué)特性與動態(tài)參數(shù),具有簡單的運(yùn)算與存儲功能,這些神經(jīng)元像大腦神經(jīng)元一樣,通過脈沖相互溝通。

在現(xiàn)實(shí)層面,他們的每個芯片可以搭載百萬個神經(jīng)元,億萬個神經(jīng)突觸,可以自由擴(kuò)展的芯片網(wǎng)絡(luò)又如同大腦皮層的不同的區(qū)域,分別在不同的層級上, 可以并行的,同時的處理任務(wù),從而指數(shù)型地提高了數(shù)據(jù)處理的效率。又因各個指令及相應(yīng)數(shù)據(jù)都存儲在同一芯片中,所有的計算資源不會因?yàn)榈却鎯υL問而導(dǎo)致浪費(fèi),功耗也比現(xiàn)在基于馮·諾依曼硬件架構(gòu)的處理器低兩到三個數(shù)量級。

看看Alpha Go,下一場棋耗電幾千瓦,而李世石,大腦只耗20瓦,所以雖然輸了,但人類的尊嚴(yán)還算沒有低到塵埃里。

李世石對陣Alpha Go

除了運(yùn)算速度快,能耗低,團(tuán)隊(duì)還有一項(xiàng)核心的IP,就是一種特殊的布線方式,使各芯片之間的交流可以突破物理限制,無限的增加新的芯片于原有網(wǎng)絡(luò),這樣,運(yùn)算能力也可無限增加。而傳統(tǒng)的馮·諾依曼結(jié)構(gòu),如果要增加CPU的數(shù)量,那么CPU之間的溝通是越發(fā)困難的,因?yàn)檫\(yùn)算能力有其上限。在處理AI領(lǐng)域數(shù)據(jù)上,AI-CTX團(tuán)隊(duì)基于仿生神經(jīng)網(wǎng)絡(luò)設(shè)計出芯片架構(gòu)比之馮·諾依曼結(jié)構(gòu)無疑是革命性的,那么市場上是否有用類似方案的對手呢?

與IBM TrueNorth芯片的對比

CTO 喬寧很自信的說:“Intel,三星等正在研發(fā)的加速器類產(chǎn)品在實(shí)時處理動態(tài)數(shù)據(jù)速度上比我們慢,能耗還高一個數(shù)量級。而跟IBM的TrueNorth芯片相比,我們的模擬神經(jīng)元具有更復(fù)雜的非線性參數(shù),硅面積只有IBM的0.5%,能耗只有10%,基于我們的芯片架構(gòu),每個神經(jīng)元能輕松建立多達(dá)8千個連接,而現(xiàn)有IBM Truenorth 芯片只有256個連接。而且我們第一代原型一出來就已經(jīng)有訂單了!”

當(dāng)然,我們也要在這里指出,三星的加速器是做靜態(tài)圖像處理,TrueNorth是一個通用實(shí)驗(yàn)芯片,不專門針對任何應(yīng)用,雖然已經(jīng)有不少人在開發(fā)相應(yīng)的芯片應(yīng)用(識別,追蹤,決策)。

AI-CTX的芯片不適合處理靜態(tài)硬盤數(shù)據(jù)(靜態(tài)圖片及數(shù)據(jù)),但非常擅長于處理包含時間信息的數(shù)據(jù),比如,動態(tài)的傳感器數(shù)據(jù),自然界的自然信號(溫度,氣壓),人體信號(心跳EEG),網(wǎng)絡(luò)數(shù)據(jù),IoT,股票高速決策等數(shù)據(jù)的處理。

AI-CTX目前的主要切入的應(yīng)用場景包括實(shí)時在線(always-on)的應(yīng)用,比如低功耗的智能便攜設(shè)備,移動設(shè)備,健康檢測EEG,IoT設(shè)備,網(wǎng)絡(luò)安全等。還有另一塊是高速低功耗應(yīng)用,比如自動駕駛,手勢識別,聲音識別等。更長遠(yuǎn)來看可以用于大數(shù)據(jù)處理和深度學(xué)習(xí)等領(lǐng)域。