TinyML微型機器學習技術(shù)正在加速物聯(lián)網(wǎng)行業(yè)的智能革新，但通信功耗限制和模型更新困難仍是阻礙其在真實場景落地的“最后一公里“難題。近日，縱行科技宣布將和QuickLogic公司聯(lián)合推出ZETA-TinyML開發(fā)套件，以滿足遠距離、低功耗和成本敏感的嵌入式人工智能產(chǎn)品的原型驗證及應用需求，打造一站式連接-訓練-部署-應用的泛在智聯(lián)新生態(tài)。

該開發(fā)套件面向企業(yè)、高校、個人開發(fā)者，即日起接受預定，并從9月份開始發(fā)貨。此開發(fā)套件為那些運營商信號難以覆蓋、遠距離和需要實時處理的物聯(lián)網(wǎng)應用帶來了無限可能，例如偏遠山區(qū)的環(huán)境監(jiān)測、畜牧群動態(tài)跟蹤、戶外廣告牌的松動檢測；工廠中設(shè)備的預測性維護、皮帶機的啟停和狀態(tài)識別、管道氣體的異常泄露監(jiān)測；智能可穿戴設(shè)備、手勢和語音識別等多種復雜場景。

1、實現(xiàn)TinyML應用的最后一公里：通訊和升級

在嵌入式設(shè)備部署和運行機器學習模型向來困難重重，但越來越多的軟硬件平臺正讓這一切變得容易起來。QuickLogic是其中領(lǐng)先的佼佼者，其超低功耗可編程SOC半導體技術(shù)和旗下SensiML子公司一站式AutoML平臺，為TinyML的訓練部署和驗證提供了一個完整的解決方案。

QuickFeather低功耗開源代碼硬件開發(fā)工具包（HDK）是一個小型系統(tǒng)，這是第一款Arm CortexR-M4F MCU并完全支持Zephyr RTOS和FreeRTOS，是下一代低功耗、支持機器學習（ML）的物聯(lián)網(wǎng)設(shè)備的理想選擇。與其他基于專有硬件和軟件工具的開發(fā)包不同，QuickFeather基于100%開源硬件并圍繞100%開源軟件（包括Symbiflow FPGA工具）構(gòu)建。

圖：QuickFeather開發(fā)板

SensiML提供了一套完整的TinyML數(shù)據(jù)捕獲、算法生成和驗證的工具包解決方案，適用于自動化創(chuàng)建并優(yōu)化AI物聯(lián)網(wǎng)傳感器識別代碼過程的每個步驟。整個工作流使用不斷增長的高級ML和AI算法庫來生成代碼，這些代碼可以在開發(fā)階段或部署后從新數(shù)據(jù)中學習。

圖：SensiML工具包流程圖

借助QuickFeather開發(fā)板和SensiML訓練平臺，現(xiàn)在可以將一個訓練并驗證好的機器學習推理模型直接部署到MCU中，但這些對于一個完整的TinyML應用來說還不夠。物聯(lián)網(wǎng)的應用大部分由電池驅(qū)動，雖然模型已經(jīng)極度壓縮節(jié)省了內(nèi)存和計算耗能，但模型的推理結(jié)果仍需要上傳，還需要考慮業(yè)務下行的傳輸要求。一般來說，通信耗能和計算耗能占比至少為3:1，低功耗傳輸仍是TinyML產(chǎn)品開發(fā)者必須直面的最大挑戰(zhàn)之一。

此外，TinyML模型部署后并非一勞永逸，還存在一些不確定性的升級需求，這些不確定性包括模型參數(shù)調(diào)整、重新訓練需求、業(yè)務邏輯變化等。有線連接更新僅適用于調(diào)試階段，對于安裝到客戶現(xiàn)場的應用幾乎不具備可行性。傳統(tǒng)遠程升級方式（OTA）占用資源且耗電，對于大部分物聯(lián)網(wǎng)場景并不友好，升級困難無疑在某種程度上限制了端側(cè)智能產(chǎn)品的發(fā)展。

所以，當一個算法工程師正在為串口打印出的98%模型精度擊掌歡呼時，產(chǎn)品設(shè)計師卻只是聳聳肩，“很好，還剩最后一公里。”

2、ZETA+TinyML滿足“低功耗+通信+遠程升級”需求

ZETA作為國內(nèi)唯一全棧國產(chǎn)化的LPWAN物聯(lián)網(wǎng)通信技術(shù)，解決物聯(lián)網(wǎng)產(chǎn)業(yè)存在的終端功耗高、海量連接、廣域覆蓋能力不足和成本高等困難，非常適合大規(guī)模部署。作為全球首個支持分布式組網(wǎng)的LPWAN通訊標準，ZETA利用搭載Advanced M-FSK調(diào)試解調(diào)的超窄帶技術(shù)，提出“LPWAN2.0泛在物聯(lián)”愿景，旨在以更高性能、更強穿透力、更低成本加速物聯(lián)網(wǎng)在工業(yè)、物流等成本敏感性行業(yè)的應用。

圖：ZETA LPWAN 2.0泛在物聯(lián)

ZETA并不局限于傳統(tǒng)LPWAN行業(yè)的低速率場景，針對諸如圖像、振動和聲音等中、高速率應用，ZETA與TinyML技術(shù)深度融合，各種“端智能“傳感器內(nèi)置著機器學習AI算法，以低成本、低功耗和穿透力更強的ZETA通信技術(shù)為載體，使智能泛在物聯(lián)無處不在。

與此同時，針對TinyML遠程升級難題，ZETA自研差分OTA算法，可在server端對新舊軟件包進行對比分析和高效壓縮，在保留遠距離覆蓋性能基礎(chǔ)上完成低功耗升級。以100kB、10%差異的TinyML模型來說，最終的差分包大小將在11kB以下，而僅要求10kB的額外內(nèi)存空間，幾乎適用于所有物聯(lián)芯片使用。

3、ZETA+QuickLogic：加速端側(cè)AI產(chǎn)品應用進程

此次與QuickLogic的合作，將在QuickFeather開發(fā)板基礎(chǔ)上，上疊ZETA高性能通信模組，并搭配ZETA低成本網(wǎng)關(guān)使用。軟件層面，ZETA通信部分SDK將直接集成到SensiML軟件平臺上，可直接生成能部署運行的Binary文件，用戶只需配置推理結(jié)果的對應關(guān)系。同時，ZETA為開發(fā)者提供云Server服務，進行終端管理、ZETA網(wǎng)絡(luò)配置、協(xié)議解析和差分OTA升級功能，當有新的TinyML模型時，可一鍵完成遠程升級。此開發(fā)套件將幫助那些端側(cè)AI產(chǎn)品的開發(fā)者們進一步縮短原型驗證周期，提前發(fā)現(xiàn)并評估網(wǎng)絡(luò)環(huán)境帶來的影響，從而加速整個產(chǎn)品的落地進程。

圖：ZETA-TinyML開發(fā)套件包

主要技術(shù)指標

4、ZETA-TinyML開發(fā)套件：豐富泛在物聯(lián)應用場景

此開發(fā)套件為那些運營商信號難以覆蓋、遠距離和需要實時處理的物聯(lián)網(wǎng)應用帶來了無限可能，無論是偏遠山區(qū)的環(huán)境監(jiān)測、畜牧群動態(tài)跟蹤、戶外廣告牌的松動檢測，還是工廠中設(shè)備的預測性維護、皮帶機的啟停和狀態(tài)識別、管道氣體的異常泄露監(jiān)測，抑或是智能可穿戴設(shè)備、手勢和語音識別，都能通過ZETA-TinyML開發(fā)套件來快速完成原型驗證和匹配于真實場景的測試。

聲音和語音分析需求是推動著TinyML應用快速發(fā)展的新勁動力，關(guān)鍵詞喚醒應用正是到目前為止TinyML的最佳代表作。與此同時，自然界、工廠、城市、家居場景中無時無刻都存在著各種聲音：動物的叫聲、機器的轟鳴聲、汽車行駛的噪聲、嬰兒的啼哭聲……盡管這些聲音沒有確切的理論模型，但是通過ZETA-TinyML開發(fā)套件，仍能快速完成模型創(chuàng)建和驗證，并瞄準于始終在線的低功耗檢測。比如智能咳嗽檢測以在公共場所排查新冠疫情風險、野外珍稀動物的叫聲識別以幫助統(tǒng)計其活動范圍和數(shù)量、變電站內(nèi)聲音異響檢測以識別變壓器異常放電故障、藍牙耳機在使用中識別到地鐵運行聲音以自動開啟主動降噪功能……這些音頻分析場景都能在ZETA-TinyML套件上完成開發(fā)和樣機測試。

圖：使用聲音識別皮帶機脫落故障

QuickLogic中國區(qū)總經(jīng)理張貴表示：“我們非常高興能與縱行科技在嵌入式人工智能領(lǐng)域展開合作，ZETA超低功耗特性和LPWAN2.0的泛在物聯(lián)構(gòu)想與QuickLogic的戰(zhàn)略方向不謀而合。不論你是高校、企業(yè)還是個人開發(fā)者，都能使用ZETA-TinyML套件來激發(fā)你完成一些非常有創(chuàng)意、更具實用價值的智能物聯(lián)網(wǎng)應用，甚至是一款‘殺手級’產(chǎn)品?！?/span>

關(guān)于QuickLogic

QuickLogic Corporation（NASDAQ：QUIK）公司誕生于1988年，總部位于美國加州圣何塞,是領(lǐng)先的超低功耗定制化傳感器和語音處理平臺、顯示和連接半導體解決方案提供商，這些解決方案面向智能手機、平板電腦、可穿戴設(shè)備、工業(yè)和移動企業(yè)OEM。QuickLogic通過行業(yè)領(lǐng)先的超低功耗可編程SoC半導體解決方案、FPGA和嵌入式FPGA IP、嵌入式軟件和算法解決方案為客戶提供上述優(yōu)勢，這些解決方案適用于始終在線的語音和傳感器處理應用。QuickLogic在全球有超過2000個用戶以及65千萬片的量產(chǎn)記錄。SensiML是其于2019年收購的全資子公司，其Analytics Toolkit平臺使用AI技術(shù)，通過精確的傳感器算法完善了端到端解決方案。全系列的平臺、軟件工具和eFPGA IP能夠在移動、可穿戴、可聽戴、消費、工業(yè)、邊緣和端點物聯(lián)網(wǎng)中高效采用并實現(xiàn)AI、語音和傳感器處理技術(shù)。