本文從多個角度深入探討了在嵌入式系統(tǒng)中注入本地化 AI 的業(yè)務(wù)和技術(shù)。

圣何塞——列出從事某種形式人工智能的半導(dǎo)體公司很容易——幾乎所有這些公司都是如此。機器學習的廣泛潛力正在吸引幾乎所有芯片供應(yīng)商探索這一新興技術(shù)，尤其是在網(wǎng)絡(luò)邊緣的推理處理方面。

“似乎每個星期，我都會在這個領(lǐng)域遇到一家新公司，有時是我從未聽說過的中國公司，”Real World Technologies 微處理器分析師大衛(wèi)坎特說。

深度神經(jīng)網(wǎng)絡(luò)本質(zhì)上是一種新的計算方式。您無需編寫程序以在吐出數(shù)據(jù)的處理器上運行，而是通過算法模型流式傳輸數(shù)據(jù)，該算法模型過濾掉所謂的推理處理的結(jié)果。

這種方法在 2012 年 ImageNet 競賽后開始受到關(guān)注，當時一些算法在識別圖片時提供了比人類更好的結(jié)果。計算機視覺是第一個受到巨大推動的領(lǐng)域。

從那時起，亞馬遜、谷歌和 Facebook 等網(wǎng)絡(luò)巨頭開始將深度學習應(yīng)用于視頻、語音和翻譯。去年，超過 3 億部智能手機出貨了某種形式的神經(jīng)網(wǎng)絡(luò)功能;今年將有 800,000 個 AI 加速器運往數(shù)據(jù)中心;現(xiàn)在每天有 7 億人使用某種形式的智能個人助理，例如亞馬遜 Echo 或蘋果的 Siri。

據(jù)說已經(jīng)有多達 50 家公司在銷售或準備某種形式的硅 AI 加速器。有些是 SoC 的 IP 塊，有些是芯片，還有一些是系統(tǒng)。

它們的共同目標是被設(shè)計成從數(shù)據(jù)中心服務(wù)器到智能手機、智能揚聲器和許多其他產(chǎn)品的所有產(chǎn)品。東芝的研究人員最近發(fā)表了一篇關(guān)于神經(jīng)網(wǎng)絡(luò)加速器模塊的論文，該模塊旨在嵌入傳感器中，這表明該技術(shù)可能會變得多么普遍。

核心技術(shù)還在不斷發(fā)展。每天發(fā)表多達 50 篇關(guān)于 AI 的技術(shù)論文，“而且還在上升——這是一個令人興奮的領(lǐng)域，”RISC 的資深聯(lián)合開發(fā)者、谷歌張量處理單元工作的大衛(wèi)帕特森說。

分析師 Kanter 指出，機器學習涉及新的系統(tǒng)架構(gòu)。例如，明天的監(jiān)控攝像頭可能會決定在其 CMOS 傳感器旁邊放置深度學習加速器，并在模擬域中處理原始數(shù)據(jù)，然后再將其轉(zhuǎn)換為數(shù)字位并發(fā)送到圖像處理器，他說。

“從理論上講，您可以使用更好的信息。我們知道神經(jīng)網(wǎng)絡(luò)通常具有非直觀的算法，因此我們需要考慮神經(jīng)網(wǎng)絡(luò)可以看到的數(shù)字處理可能丟棄的內(nèi)容——這令人興奮?！?

Imec 研究所正在機器學習架構(gòu)方面進行自己的實驗，并在使用單位精度的加速器上開展工作。它旨在推動關(guān)于人工智能任務(wù)的理想精度水平的辯論。

“有趣的是，我們在哪里進行推理處理沒有達成共識，”坎特說。“很可能，我們最終將結(jié)合邊緣和數(shù)據(jù)中心推理處理以及一些垂直特定的位置，如自動駕駛汽車?！?

如果您使用正確的軟件，許多應(yīng)用程序可能不需要任何特殊的芯片。經(jīng)驗豐富的 DSP 分析師兼嵌入式視覺聯(lián)盟創(chuàng)始人 Jeff Bier 表示，現(xiàn)有的芯片，如高通的 Snapdragon，可以“在人工智能工作上提供驚人的性能，如果你知道自己在做什么” 。