本文從多個角度深入探討了在嵌入式系統(tǒng)中注入本地化 AI 的業(yè)務和技術。

圣何塞——列出從事某種形式人工智能的半導體公司很容易——幾乎所有這些公司都是如此。機器學習的廣泛潛力正在吸引幾乎所有芯片供應商探索這一新興技術，尤其是在網(wǎng)絡邊緣的推理處理方面。

“似乎每個星期，我都會在這個領域遇到一家新公司，有時是我從未聽說過的中國公司，”Real World Technologies 微處理器分析師大衛(wèi)坎特說。

深度神經(jīng)網(wǎng)絡本質(zhì)上是一種新的計算方式。您無需編寫程序以在吐出數(shù)據(jù)的處理器上運行，而是通過算法模型流式傳輸數(shù)據(jù)，該算法模型過濾掉所謂的推理處理的結果。

這種方法在 2012 年 ImageNet 競賽后開始受到關注，當時一些算法在識別圖片時提供了比人類更好的結果。計算機視覺是第一個受到巨大推動的領域。

從那時起，亞馬遜、谷歌和 Facebook 等網(wǎng)絡巨頭開始將深度學習應用于視頻、語音和翻譯。去年，超過 3 億部智能手機出貨了某種形式的神經(jīng)網(wǎng)絡功能;今年將有 800,000 個 AI 加速器運往數(shù)據(jù)中心;現(xiàn)在每天有 7 億人使用某種形式的智能個人助理，例如亞馬遜 Echo 或蘋果的 Siri。

據(jù)說已經(jīng)有多達 50 家公司在銷售或準備某種形式的硅 AI 加速器。有些是 SoC 的 IP 塊，有些是芯片，還有一些是系統(tǒng)。

它們的共同目標是被設計成從數(shù)據(jù)中心服務器到智能手機、智能揚聲器和許多其他產(chǎn)品的所有產(chǎn)品。東芝的研究人員最近發(fā)表了一篇關于神經(jīng)網(wǎng)絡加速器模塊的論文，該模塊旨在嵌入傳感器中，這表明該技術可能會變得多么普遍。

核心技術還在不斷發(fā)展。每天發(fā)表多達 50 篇關于 AI 的技術論文，“而且還在上升——這是一個令人興奮的領域，”RISC 的資深聯(lián)合開發(fā)者、谷歌張量處理單元工作的大衛(wèi)帕特森說。

分析師 Kanter 指出，機器學習涉及新的系統(tǒng)架構。例如，明天的監(jiān)控攝像頭可能會決定在其 CMOS 傳感器旁邊放置深度學習加速器，并在模擬域中處理原始數(shù)據(jù)，然后再將其轉換為數(shù)字位并發(fā)送到圖像處理器，他說。

“從理論上講，您可以使用更好的信息。我們知道神經(jīng)網(wǎng)絡通常具有非直觀的算法，因此我們需要考慮神經(jīng)網(wǎng)絡可以看到的數(shù)字處理可能丟棄的內(nèi)容——這令人興奮?！?

Imec 研究所正在機器學習架構方面進行自己的實驗，并在使用單位精度的加速器上開展工作。它旨在推動關于人工智能任務的理想精度水平的辯論。

“有趣的是，我們在哪里進行推理處理沒有達成共識，”坎特說。“很可能，我們最終將結合邊緣和數(shù)據(jù)中心推理處理以及一些垂直特定的位置，如自動駕駛汽車?！?

如果您使用正確的軟件，許多應用程序可能不需要任何特殊的芯片。經(jīng)驗豐富的 DSP 分析師兼嵌入式視覺聯(lián)盟創(chuàng)始人 Jeff Bier 表示，現(xiàn)有的芯片，如高通的 Snapdragon，可以“在人工智能工作上提供驚人的性能，如果你知道自己在做什么” 。