英特爾自主學(xué)習(xí)芯片Loih是怎么運(yùn)行的
毫無疑問,人工智能是當(dāng)下最熱的話題,涉及其中的很多初創(chuàng)企業(yè)也是備受資本追捧。而對(duì)于老牌芯片廠商英特爾來說,近兩年也是不遺余力的加強(qiáng)在人工智能領(lǐng)域的布局。
2016年8月,英特爾宣布4.08億美元收購(gòu)了專注于云端人工智能的創(chuàng)業(yè)公司Nervana Systems。2016年9月,英特爾又收購(gòu)了計(jì)算機(jī)視覺芯片公司Movidius,開始加碼終端側(cè)的人工智能布局。而對(duì)于下一代的基于神經(jīng)擬態(tài)(類腦)的人工智能芯片,英特爾也已經(jīng)有了相應(yīng)的原型產(chǎn)品。
去年9月,英特爾就曝光了其代號(hào)為 “Loihi” 的首款能夠進(jìn)行自主學(xué)習(xí)的神經(jīng)擬態(tài)芯片。Loihi芯片可以像人類大腦一樣,通過脈沖或尖峰傳遞信息,并自動(dòng)調(diào)節(jié)突觸強(qiáng)度,通過環(huán)境中的各種反饋信息,進(jìn)行自主學(xué)習(xí)、下達(dá)指令。它可以利用少量的數(shù)據(jù)就能進(jìn)行自主學(xué)習(xí)并作出推斷,隨著時(shí)間的推移將變得更加智能,不需要以傳統(tǒng)大量數(shù)據(jù)訓(xùn)練的方式進(jìn)行。
不過,當(dāng)時(shí)還只是FPGA模擬,而現(xiàn)在已經(jīng)完整成型,是一顆擁有完整功能的硅芯片。在日前的CES keynote 演講環(huán)節(jié),英特爾CEO科再奇宣布,業(yè)內(nèi)第一款自主學(xué)習(xí)神經(jīng)擬態(tài)芯片——Loihi已全面運(yùn)作,將在今年上半年與領(lǐng)先大學(xué)、科研機(jī)構(gòu)分享Loihi芯片,并用于更復(fù)雜的數(shù)據(jù)集和問題。
此外,科再奇表示,神經(jīng)擬態(tài)芯片最終可用于任何需要實(shí)時(shí)數(shù)據(jù)處理的環(huán)境,比如更安全的攝像頭和智能城市基礎(chǔ)設(shè)施,并與自動(dòng)駕駛汽車進(jìn)行實(shí)時(shí)交互通信、紅綠燈自動(dòng)適應(yīng)交通狀況、攝像頭尋找失蹤人口等。
那么Loihi到底有何神奇之處?它是如何運(yùn)作的呢?
Loihi的名字其實(shí)取自于夏威夷海底的一座不斷噴發(fā)的活火山,每一次噴發(fā)都會(huì)擴(kuò)大夏威夷島的范圍,英特爾將芯片取名Loihi就是希望其能夠通過不斷的自我學(xué)習(xí),可以提供更加強(qiáng)大的人工智能的能力。
現(xiàn)代醫(yī)學(xué)研究表明,人類大腦的神經(jīng)網(wǎng)絡(luò)是通過脈沖來傳遞信息,同時(shí)根據(jù)這些脈沖的時(shí)間來調(diào)節(jié)突觸強(qiáng)度或突觸連接的權(quán)重,并把這些變化存儲(chǔ)在突觸連接處。大腦內(nèi)神經(jīng)網(wǎng)絡(luò)及其環(huán)境中多個(gè)區(qū)域之間的協(xié)作和競(jìng)爭(zhēng)性的相互作用就產(chǎn)生了智能的行為。
英特爾的Loihi芯片采用了一種新穎的方式通過異步脈沖來計(jì)算,同時(shí)整合了計(jì)算和存儲(chǔ),模仿了大腦根據(jù)環(huán)境的各種反饋來學(xué)習(xí)如何操作的運(yùn)作方式,可以利用數(shù)據(jù)來學(xué)習(xí)并做出推斷,隨著時(shí)間的推移也會(huì)變得更加的智能,并且不需要以傳統(tǒng)方式來進(jìn)行訓(xùn)練。
目前的機(jī)器學(xué)習(xí)方式,比如深度學(xué)習(xí),都是通過大量的數(shù)據(jù)來進(jìn)行訓(xùn)練,從而得出一個(gè)可用的模型,但是這種模型只是適用于特定的一些應(yīng)用方向和使用場(chǎng)景,沒法廣泛的應(yīng)用,一旦使用場(chǎng)景發(fā)生變化,這種花大量時(shí)間和精力訓(xùn)練出來的模型就沒法用了。而英特爾的Loihi能夠進(jìn)行自主學(xué)習(xí),則意味著即使在不同應(yīng)用方向和場(chǎng)景下,也能很快的通過自主學(xué)習(xí)來進(jìn)行適應(yīng)。
此外,神經(jīng)擬態(tài)計(jì)算還可解決例如稀疏編碼、詞典學(xué)習(xí)、constraint Satisfaction、模式匹配、動(dòng)態(tài)學(xué)習(xí)和適應(yīng)等眾多挑戰(zhàn)性問題。并且還擁有更高的能效比。
Loihi的詳細(xì)參數(shù):
根據(jù)此前再北京舉行的2017英特爾人工智能大會(huì)上公布的資料顯示,Loihi采用的是異構(gòu)設(shè)計(jì),由128個(gè)Neuromorphic Core(神經(jīng)形態(tài)的核心)+3個(gè)低功耗的英特爾X86核心組成,號(hào)稱擁有13萬個(gè)神經(jīng)元和1.3億個(gè)觸突。
其擁有目前發(fā)布芯片的大部分先進(jìn)特性,支持可編程的學(xué)習(xí)規(guī)則,每個(gè)神經(jīng)形態(tài)核心都包含一個(gè)學(xué)習(xí)引擎,在操作中可以通過編程去適配網(wǎng)絡(luò)參數(shù),支持監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)、強(qiáng)化學(xué)習(xí)和其他的學(xué)習(xí)范式。同時(shí)其也是可擴(kuò)展的神經(jīng)擬態(tài)網(wǎng)絡(luò)。這種全異步神經(jīng)擬態(tài)多核心網(wǎng)絡(luò),可支持多種稀疏、分層和循環(huán)神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)。每個(gè)神經(jīng)元可以與成千上萬個(gè)其它神經(jīng)元通信。
在性能方面,根據(jù)此前研究人員公布的數(shù)據(jù)顯示,與其他典型的脈沖神經(jīng)網(wǎng)絡(luò)相比,在解決MNIST數(shù)字識(shí)別問題時(shí),以實(shí)現(xiàn)一定準(zhǔn)確率所需要的總操作數(shù)來看,Loihi芯片學(xué)習(xí)速度提高了100萬倍。與卷積神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)相比,Loihi測(cè)試芯片在同樣的任務(wù)中需要的資源更少。
此外,在能效比方面,與訓(xùn)練人工智能系統(tǒng)的通用計(jì)算芯片相比,Loihi芯片的能效提升了100倍以上。
另外,由于Loihi采用的是全新的神經(jīng)擬態(tài)計(jì)算,并且是異構(gòu)設(shè)計(jì),所以這也使得其在開發(fā)設(shè)計(jì)上也需要全新的方法和工具。
對(duì)此,英特爾Loihi芯片部門與英特爾軟件部門合作,創(chuàng)造了一種無縫的編程模式和結(jié)構(gòu)??梢宰岄_發(fā)者可以輕松的在Loihi上進(jìn)行編程。
雖然,目前Loihi已經(jīng)“全面運(yùn)作”,并將在今年分享給研究合作伙伴。但是距離真正的商用可能還需要很長(zhǎng)的一段時(shí)間。