要實(shí)現(xiàn)人工智能，必然要進(jìn)行大量的矩陣計(jì)算。而大量的矩陣計(jì)算依賴于大量的存儲(chǔ)空間、強(qiáng)大的計(jì)算能力和高速的數(shù)據(jù)交互，因此通常只能在云端的大型服務(wù)器集群中可以進(jìn)行部署。

但在很多垂直的邊緣端要實(shí)現(xiàn)AI賦能，調(diào)用云端的AI能力的成本較高，而且整個(gè)鏈條的響應(yīng)時(shí)間也較長(zhǎng)，對(duì)于連接質(zhì)量的依賴程度也較高，因此并不能做到較為實(shí)時(shí)的計(jì)算和處理，這與端側(cè)的低功耗、低延時(shí)的系統(tǒng)設(shè)計(jì)目標(biāo)并不相符。但其實(shí)剖析大部分端側(cè)的AI應(yīng)用場(chǎng)景，并不需要非常復(fù)雜的模型運(yùn)算，例如識(shí)別車牌、物體，進(jìn)行語(yǔ)音指令識(shí)別等等，這些應(yīng)用已經(jīng)沉淀了成熟的AI模型，因此只需要在端側(cè)計(jì)算單元中部署一個(gè)資源夠用的卷積神經(jīng)網(wǎng)絡(luò)（CNN）加速器，就可以承擔(dān)起端側(cè)的AI任務(wù)，而且也釋放了更擅長(zhǎng)做計(jì)算任務(wù)的CPU等資源，從而在增加AI運(yùn)算的同時(shí)，還保證了達(dá)到端側(cè)高能效目標(biāo)。

在百億IoT設(shè)備中，大部分的計(jì)算單元是MCU。而在MCU中集成CNN加速器，已經(jīng)成為了MCU的一個(gè)發(fā)展方向。目前諸多MCU廠商都已經(jīng)推出了AI集成的MCU產(chǎn)品，其中也包括ADI的邊緣AI微控制器產(chǎn)品MAX7800X系列，目前該系列產(chǎn)品型號(hào)包括MAX78000和MAX78002。

CNN加速器集成，實(shí)現(xiàn)高能效邊緣AI計(jì)算

據(jù)預(yù)測(cè)，2025年75%的數(shù)據(jù)產(chǎn)生在邊緣側(cè)進(jìn)行處理，端側(cè)AI MCU市場(chǎng)潛力巨大。MAX7800X系列也因此應(yīng)運(yùn)而生。據(jù)ADI中國(guó)技術(shù)支持中心高級(jí)工程師辛毅介紹，該系列產(chǎn)品由兩個(gè)微控制器內(nèi)核（ARM Cortex M4F和RISC-V）加上一個(gè)卷積神經(jīng)網(wǎng)絡(luò)（CNN）加速器構(gòu)成。這一架構(gòu)針對(duì)邊緣AI應(yīng)用進(jìn)行了高度優(yōu)化，數(shù)據(jù)的加載和啟動(dòng)由微控制器內(nèi)核負(fù)責(zé)，而AI推理由卷積神經(jīng)網(wǎng)絡(luò)加速器專門負(fù)責(zé)。

據(jù)ADI MCU產(chǎn)品線資深業(yè)務(wù)經(jīng)理李勇介紹，Cortex-M4F內(nèi)核主要是做一些應(yīng)用和通信，同時(shí)內(nèi)部還配有FLASH和SRAM。而RISC-V則是一顆小內(nèi)核，采用32位精簡(jiǎn)指令集，主要是配合CNN來(lái)工作。比如圖片、聲音、波形等數(shù)據(jù)通過(guò)通信接口或者圖像Camera接口輸入進(jìn)來(lái)后，會(huì)由RISC-V內(nèi)核將這些數(shù)據(jù)搬運(yùn)至存儲(chǔ)空間，再讓CNN來(lái)使用。CNN經(jīng)過(guò)硬件計(jì)算，將原始的數(shù)據(jù)通過(guò)矩陣的乘法和加法得到一些特征值，再放到內(nèi)存里來(lái)進(jìn)行比對(duì)。

借助于CPU和CNN兩類硬件的分工合作，MAX7800X系列一不需要聯(lián)網(wǎng)，二支持電池供電，完美地滿足了邊緣AI的要求，是AIoT應(yīng)用的理想產(chǎn)品。

目前MAX7800X提供了MAX78000和mAX78002兩種產(chǎn)品型號(hào)，MAX78000可支持多達(dá)3.5M的模型權(quán)重，MAX78002則支持多達(dá)16M的模型權(quán)重。如果把AI看成一個(gè)工作的大腦，那么模型權(quán)重就相當(dāng)于這個(gè)大腦里儲(chǔ)存的知識(shí)。因此，MAX78002和MAX78000相比，不僅可以做到圖像的識(shí)別，還可以進(jìn)行復(fù)雜的視頻分析?！翱偟膩?lái)說(shuō)，ADI的邊緣AI解決方案具備速度快、無(wú)需外部存儲(chǔ)、時(shí)鐘控制靈活和超低功耗等四大特色，因此對(duì)于需要使用電池供電、需要及時(shí)決策的物聯(lián)網(wǎng)設(shè)備來(lái)說(shuō)特別合適?！毙烈憬榻B到。

更完美平衡的邊緣AI方案

邊緣AI的計(jì)算平臺(tái)，可以選擇FPGA、GPU、DSP或其它專用ASIC，但ADI的MAX7800X憑借著針對(duì)性的架構(gòu)設(shè)計(jì)，提供了更高的能效和性能表現(xiàn)。

對(duì)比傳統(tǒng)的MCU+DSP的方案，ADI的MAX7800X的CNN加速器可以將功耗降低99%以上，而且算法在CNN上執(zhí)行的效率也比DSP上更高。對(duì)于單純采用微控制器的方案，MAX7800X的CNN加速器具備更高的數(shù)據(jù)吞吐量，可以將速度提高100倍以上；而且釋放了CPU的工作負(fù)載，使其專注于更擅長(zhǎng)的計(jì)算任務(wù)。而對(duì)于FPGA等方案，雖然可以處理更復(fù)雜的細(xì)節(jié)，但其成本、功耗和面積都并不適合更邊緣側(cè)的部署，MAX7800X也具備更大的優(yōu)勢(shì)。

如下圖所示，將最新的MAX78000，與ADI的通用MCUMAX32650，以及競(jìng)爭(zhēng)對(duì)手的某個(gè)MCU放在一起進(jìn)行對(duì)比。當(dāng)執(zhí)行相同的人臉識(shí)別（也就是圖像識(shí)別、視覺(jué)識(shí)別）和關(guān)鍵字識(shí)別（也就是音頻識(shí)別、聽(tīng)覺(jué)識(shí)別）的AI推理時(shí)，MAX78000中的CNN在50MHz的主頻下就可以達(dá)到280億次每秒的運(yùn)算速度，而另外兩顆MCU則在內(nèi)置的帶CMSIS-NN的DSP上運(yùn)行相同INT8網(wǎng)絡(luò)，速度遠(yuǎn)不及MAX78000中的專用CNN。而在功耗表現(xiàn)方面，競(jìng)品MCU還要增加外部3.3V SDRAM和控制器的功耗，遠(yuǎn)高于MAX78000和MAX32650?？偟膩?lái)看，在執(zhí)行AI運(yùn)算時(shí)，不論是推理速度和推理功耗，MAX78000在都大幅領(lǐng)先于另外兩顆沒(méi)有內(nèi)置CNN的MCU。

硬件CNN集成，邊緣AI MCU的技術(shù)趨勢(shì)

當(dāng)前邊緣AI的實(shí)現(xiàn)，有多種不同的方案，但考慮到更低的功耗表現(xiàn)，MCU內(nèi)部集成專用的CNN硬件加速器是必然的選擇。因?yàn)锳I需要的大量矩陣計(jì)算，在Cortex-M7或RISC-V等內(nèi)核上運(yùn)算的效率并不高，勢(shì)必帶來(lái)大幅的功耗上升。而集成的CNN是專門針對(duì)矩陣計(jì)算設(shè)計(jì)的，因此執(zhí)行效率非常高。據(jù)李勇介紹，ADI的硬件CNN有64個(gè)8位處理器，里面有很多存放權(quán)重?cái)?shù)據(jù)的Memory，這些Memory都分布在64個(gè)處理器周圍，并不需要那么多寄存器去進(jìn)行管理，CNN的處理器直接取值，運(yùn)算了再放出來(lái)，這一過(guò)程就會(huì)省很多時(shí)間，運(yùn)算也非?？?。因?yàn)槿怯布瓿傻?，比傳統(tǒng)微控制器的處理速度要快得多。CNN工作在50MHz的頻率上，可以非?？焱瓿葾I工作，然后進(jìn)入到睡眠狀態(tài)。因此集成來(lái)硬件CNN的MCU做這類運(yùn)算，會(huì)比其他傳統(tǒng)MCU控制器更加省電。

為了實(shí)現(xiàn)可穿戴級(jí)別的低功耗，MAX7800X系列在設(shè)計(jì)上針對(duì)低功耗的進(jìn)行了全面的考量。首先，選擇的Cortex-M4F和RISC-V內(nèi)核本身就是低功耗的取向，每個(gè)芯片有不同的工作模式、功耗模式，可以針對(duì)不同工況來(lái)關(guān)斷不需要的資源和接口，確保芯片一直保持在更低的功耗水平。其次，ADI的設(shè)計(jì)中包含有多個(gè)時(shí)鐘源，不僅有100MHz，還有7MHz和4MHz的。采用低頻率時(shí)鐘源的時(shí)候，功耗可以實(shí)現(xiàn)顯著降低。第三是提高集成度，ADI將電源管理、通信接口、比較大的Memory、甚至是電頻轉(zhuǎn)換芯片都集成在芯片里面， 輸入一個(gè)2.0V到3.6V的單電源，可以實(shí)現(xiàn)多路電源輸出，內(nèi)部供給內(nèi)核、Memory或者GPIO使用，從而幫助客戶提升了系統(tǒng)的整體功耗表現(xiàn)。

目前MAX78000支持的模型已經(jīng)有一些客戶成功案例，比如用來(lái)做山火監(jiān)測(cè)的安全攝像頭，有些地方經(jīng)常突發(fā)山火，需要一些遠(yuǎn)程監(jiān)控設(shè)備，但又不需要傳輸大量的圖像。另外比如城市里的管道漏水、漏氣，是通過(guò)聲音和管道震動(dòng)來(lái)檢測(cè)的。還有一些特殊產(chǎn)品，比如摩托車頭盔上的攝像頭，需要采用語(yǔ)音控制等等。其實(shí)ADI已經(jīng)無(wú)形中將AI應(yīng)用到方方面面。

結(jié)語(yǔ)

隨著AI在邊緣的落地，硬件CNN在端側(cè)MCU的集成已經(jīng)成為一種技術(shù)趨勢(shì)。這種AI MCU的發(fā)展，將會(huì)迎來(lái)巨大的市場(chǎng)機(jī)遇。