神經(jīng)形態(tài)計(jì)算將徹底改變AI邊緣計(jì)算方式
仿生學(xué)是一種復(fù)制自然結(jié)構(gòu)的科學(xué)斜線(xiàn)藝術(shù),并不是一個(gè)新概念。幾十年來(lái),我們一直在嘗試復(fù)制生物大腦來(lái)制造高效的計(jì)算機(jī),只是因?yàn)槲覀儾恢郎镏悄芫烤故侨绾喂ぷ鞯倪@一事實(shí)而略有阻礙。憑借我們最好的猜測(cè),我們開(kāi)發(fā)了基于人腦的神經(jīng)元和尖峰神經(jīng)網(wǎng)絡(luò)模型,我們現(xiàn)在正嘗試在硅中開(kāi)發(fā)這些模型。硅仿制品通常使用簡(jiǎn)化版本的神經(jīng)元,但它們?nèi)匀豢梢詾樾枰焖?、?jié)能處理以做出決策的邊緣應(yīng)用提供明顯的優(yōu)勢(shì)。
深度學(xué)習(xí)是一項(xiàng)革命性的偉大技術(shù)。英特爾(Intel)和英偉達(dá)(NVIDIA)等廠(chǎng)商正在積極滿(mǎn)足深度學(xué)習(xí)提出的計(jì)算需求,而許多初創(chuàng)公司則在提供改進(jìn)計(jì)算的新方案。他們之中的大部分都采用了“馮·諾依曼”計(jì)算架構(gòu),但是,一些新興的計(jì)算廠(chǎng)商提出要擺脫當(dāng)前的人工智能(AI)限制。神經(jīng)形態(tài)公司就是倡導(dǎo)新AI模式的先行者之一
神經(jīng)形態(tài)計(jì)算基于大腦如何利用神經(jīng)元、突觸和稱(chēng)為“尖峰”的數(shù)據(jù)格式實(shí)際處理信息。尖峰神經(jīng)元能夠比使用浮點(diǎn)值的“感知器”式神經(jīng)元模型更好地模仿大腦活動(dòng),后者是AI行業(yè)目前的神經(jīng)元參考模型。
所有的神經(jīng)網(wǎng)絡(luò)都包含對(duì)“神經(jīng)細(xì)胞”及其之間加權(quán)連接的某種形式的模擬或仿真。在神經(jīng)形態(tài)學(xué)方法中,我們有尖峰神經(jīng)元以及神經(jīng)細(xì)胞之間具有記憶的連接(我們稱(chēng)之為突觸)。當(dāng)輸入值的總和超過(guò)閾值時(shí),神經(jīng)元執(zhí)行突觸輸入的空間和時(shí)間積分,并產(chǎn)生一個(gè)或一系列尖峰。
在大腦中,大多數(shù)信息都以尖峰或一系列尖峰的形式發(fā)送。神經(jīng)元之間也有直接的電連接。尖峰是表明某一事件發(fā)生的短暫能量爆發(fā)。當(dāng)收到尖峰信號(hào)時(shí),存儲(chǔ)在突觸中的值會(huì)釋放。數(shù)字尖峰是某一事件在給定時(shí)間觸發(fā)的值。此事件可以是物理世界中的任何事件,例如,圖像中物體邊緣的明暗過(guò)渡。尖峰包含有關(guān)其空間分布、強(qiáng)度和發(fā)生時(shí)間的信息。
在生物神經(jīng)元中,突觸權(quán)重值是一個(gè)模擬電位,這些電位的集合導(dǎo)致神經(jīng)細(xì)胞的膜電位增加或減少。生物和數(shù)字神經(jīng)元尖峰始終是二進(jìn)制的,即有尖峰或者沒(méi)有尖峰。在Akida的數(shù)字神經(jīng)元仿真中,所有這些電位都被模擬為整數(shù)值。不過(guò),時(shí)間方面并沒(méi)有丟失?;谑录奶幚硎巧窠?jīng)效率的重要組成部分,尖峰時(shí)間是其學(xué)習(xí)機(jī)制的核心
ABI Research 報(bào)告稱(chēng),2027 年將出貨 46 億個(gè)傳感器,嵌入到智能家居設(shè)備、機(jī)器人和電器中,高于 2021 年的 18 億個(gè)。這些額外的傳感器將支持現(xiàn)有的和新的功能,從而導(dǎo)致傳感器數(shù)據(jù)激增這將需要處理。雖然到 2027 年絕大多數(shù)智能家居設(shè)備和電器都將具備互聯(lián)網(wǎng)連接功能,但云可能不是處理這些數(shù)據(jù)的最佳場(chǎng)所。在云中托管和處理這些數(shù)據(jù)會(huì)產(chǎn)生一定的成本,速度很慢,而且會(huì)涉及隱私問(wèn)題。
實(shí)時(shí)處理傳感器數(shù)據(jù)(非常接近傳感器)的最佳選擇可能是神經(jīng)形態(tài)計(jì)算。神經(jīng)形態(tài)計(jì)算系統(tǒng)的演示證明了該技術(shù)在邊緣超快速、超低功耗決策方面的價(jià)值。計(jì)算和神經(jīng)形態(tài)計(jì)算中的仿生學(xué)有望為邊緣設(shè)備帶來(lái)全新的智能水平,從而使在能耗和速度受到極端限制的設(shè)備中增加決策能力成為可能。隨著尖峰網(wǎng)絡(luò)和專(zhuān)用硬件的不斷發(fā)展,影響將變得更加明顯。
Neuromorphic 的競(jìng)爭(zhēng)對(duì)手深度學(xué)習(xí)(當(dāng)今大多數(shù)主流 AI 的范式)正在快速發(fā)展。今天,在一個(gè)低于 1 美元的微控制器上進(jìn)行小型深度學(xué)習(xí)應(yīng)用程序很容易,包括關(guān)鍵字定位和基本圖像處理。但神經(jīng)形態(tài)概念更進(jìn)一步,將其壓縮到微不足道的能量預(yù)算中。這些技術(shù)會(huì)在邊緣競(jìng)爭(zhēng)還是共存?最有可能的中期情景是共存——邊緣有數(shù)百萬(wàn)個(gè)用例,有數(shù)百萬(wàn)個(gè)細(xì)分市場(chǎng),出于技術(shù)或商業(yè)原因,有些可能更適合神經(jīng)形態(tài)計(jì)算。
雖然加速計(jì)算/特定領(lǐng)域計(jì)算在一定程度上規(guī)避了摩爾定律的消亡,但它仍然是計(jì)算架構(gòu)的靈活性和性能之間的一個(gè)棘手平衡,尤其是對(duì)于像人工智能這樣快速發(fā)展的工作負(fù)載。從已知最高效的計(jì)算機(jī)——人腦——中汲取靈感,并以數(shù)百萬(wàn)年進(jìn)化的結(jié)果為起點(diǎn),這感覺(jué)像是一個(gè)安全的賭注。