近日，清華大學(xué)發(fā)布的《2018人工智能芯片研究報(bào)告》（以下簡(jiǎn)稱《報(bào)告》）指出，人工智能芯片是人工智能時(shí)代的技術(shù)核心之一。目前人工智能還處于面向行業(yè)應(yīng)用階段，生態(tài)上尚未形成壟斷，國產(chǎn)處理器廠商與國外競(jìng)爭(zhēng)對(duì)手在人工智能這一全新賽場(chǎng)上處在同一起跑線上。

然而，“當(dāng)前國內(nèi)缺失人工智能芯片的相關(guān)評(píng)測(cè)標(biāo)準(zhǔn)。”在中國科協(xié)主辦的第二屆“風(fēng)向標(biāo)——中國創(chuàng)新創(chuàng)業(yè)先鋒論壇”上，人工智能芯片企業(yè)鯤云科技創(chuàng)始人牛昕宇指出，這造成大家不知道自己研發(fā)的芯片在國際上處于什么樣的水平。而獲知一款芯片性能如何，最直接的方法是進(jìn)行評(píng)測(cè)。“這就需要一套公認(rèn)的評(píng)測(cè)標(biāo)準(zhǔn)”。

人工智能芯片評(píng)測(cè)到底多重要、多緊迫？怎樣建立一套公認(rèn)的評(píng)測(cè)標(biāo)準(zhǔn)？對(duì)此，記者采訪了相關(guān)業(yè)內(nèi)專家。

全球范圍內(nèi)尚無公認(rèn)評(píng)測(cè)指標(biāo)

牛昕宇向科技日?qǐng)?bào)記者表示，國際上，缺乏統(tǒng)一的芯片評(píng)測(cè)標(biāo)準(zhǔn)也是一個(gè)比較大的問題，包括英偉達(dá)、英特爾等公司的芯片性能也主要依靠芯片廠商自家發(fā)布?！叭蚨鄠€(gè)機(jī)構(gòu)都在嘗試給出評(píng)測(cè)方案，然而現(xiàn)狀就是無公認(rèn)基準(zhǔn)測(cè)試方法和指標(biāo)。”中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟評(píng)估認(rèn)證工作組組長曹峰說。

“從政府、用戶、系統(tǒng)集成廠商到算法開發(fā)者，全部無法準(zhǔn)確評(píng)價(jià)所使用芯片的技術(shù)水平以及在國內(nèi)外所處的地位，無法選取最適用于自己需求的底層芯片，芯片企業(yè)無法清晰確認(rèn)自己的技術(shù)優(yōu)勢(shì)及目標(biāo)市場(chǎng)。”牛昕宇對(duì)此感慨頗深。

人工智能芯片與傳統(tǒng)計(jì)算芯片不同，它要求高效實(shí)現(xiàn)深度學(xué)習(xí)算法對(duì)海量數(shù)據(jù)高吞吐量等高并行化任務(wù)的處理。曹峰介紹，當(dāng)前人工智能芯片主要分兩大體系，馮諾依曼體系和非馮諾依曼體系。

馮諾依曼體系以五大架構(gòu)芯片為代表，分別是CPU、GPU、DSP、FPGA和ASIC，在深度學(xué)習(xí)訓(xùn)練環(huán)節(jié)和終端推斷方面發(fā)揮重大作用。非馮諾依曼體系，以IBM TrueNorth芯片為代表，采用人腦神經(jīng)元的結(jié)構(gòu)來提升計(jì)算能力，但目前還處于實(shí)驗(yàn)室階段。

中國信息通信研究院DNN Benchmark項(xiàng)目負(fù)責(zé)人張蔚敏指出，人工智能在不同算法、不同場(chǎng)景下，對(duì)芯片提出了不同的要求。硬件架構(gòu)、延遲、帶寬、能耗、神經(jīng)網(wǎng)絡(luò)模型、參數(shù)都是用戶方選擇人工智能芯片的重要參考。

人工智能芯片為何要評(píng)測(cè)？“當(dāng)前，AI芯片的功能日益復(fù)雜化、多樣化，一方面，芯片廠商紛紛給出不同的衡量標(biāo)準(zhǔn)，聲稱其產(chǎn)品在計(jì)算性能、單位能耗算力等方面處于行業(yè)領(lǐng)先水平；另一方面，需求方卻關(guān)心如何能從廠商給出的信息中判斷出芯片是否能實(shí)際滿足其真實(shí)場(chǎng)景的計(jì)算需求?！辈芊鍙?qiáng)調(diào)，“針對(duì)這一現(xiàn)狀，一個(gè)與真實(shí)場(chǎng)景緊密相連的、同時(shí)跨產(chǎn)品可比的測(cè)試評(píng)估方案的出現(xiàn)，迫在眉睫?！?/p>

“統(tǒng)一的芯片標(biāo)準(zhǔn)會(huì)降低芯片廠商、人工智能算法廠商的溝通成本，建立一個(gè)有序的競(jìng)爭(zhēng)環(huán)境?！迸ｊ坑畋硎?，國外現(xiàn)在有一些人工智能算法競(jìng)賽，在一定程度上起到了對(duì)于人工智能算法的評(píng)測(cè)作用。我國人工智能企業(yè)也在嘗試給出評(píng)測(cè)方案，比如阿里的AI matrix，寒武紀(jì)的Benchip，以及百度的Deepbench等。

公司自行摸索增加開發(fā)成本

事實(shí)上，我國龐大的人工智能應(yīng)用市場(chǎng)對(duì)底層芯片需求巨大，但本土人工智能芯片產(chǎn)業(yè)尚處于起步階段?！坝幸惶缀饬咳斯ぶ悄苄酒阅艿墓J(rèn)指標(biāo)，我們才能知道自己前方的目標(biāo)線在哪里?！迸ｊ坑詈粲醯?。

當(dāng)前，“應(yīng)用領(lǐng)域的差異性和實(shí)現(xiàn)選擇的多樣性導(dǎo)致很多測(cè)評(píng)難題?！辈芊迮e例，如何讓評(píng)測(cè)指標(biāo)在不同級(jí)別的設(shè)備中橫向可比？面對(duì)云端和終端的應(yīng)用差異化現(xiàn)狀，如何構(gòu)建相應(yīng)的基準(zhǔn)測(cè)試？如何為不同測(cè)試項(xiàng)目分配權(quán)重，以獲得一個(gè)相對(duì)公正客觀、有代表性的評(píng)分？

這種現(xiàn)狀讓人工智能整個(gè)行業(yè)倍感焦慮?！皩?duì)人工智能行業(yè)的從業(yè)者來說，缺乏標(biāo)準(zhǔn)意味著缺乏統(tǒng)一的行業(yè)交流接口?！迸ｊ坑钤诮佑|大量人工智能應(yīng)用研發(fā)領(lǐng)域一線情況后發(fā)現(xiàn)，在制定人工智能整體方案時(shí)，如果無法對(duì)于底層芯片所能夠提供的性能和算力有一個(gè)準(zhǔn)確的了解，難以在項(xiàng)目規(guī)劃初期就確定整體方案，需要在項(xiàng)目開發(fā)過程中不斷試錯(cuò)來測(cè)試方案。“相當(dāng)于每家公司要承擔(dān)部分芯片評(píng)測(cè)任務(wù)，大大提高了開發(fā)門檻?！?/p>

缺乏評(píng)測(cè)標(biāo)準(zhǔn)帶來諸多問題，人工智能芯片公司對(duì)此有更深刻的體會(huì)，牛昕宇直陳痛點(diǎn)，“無法通過公開統(tǒng)一的渠道來確定自家芯片技術(shù)在國際的地位，需要每家公司自行摸索，增加了芯片公司的成本?！?/p>

《報(bào)告》指出，長期以來，中國在CPU、GPU、DSP等處理器設(shè)計(jì)上一直處于追趕地位。然而，人工智能的興起，無疑為中國在處理器領(lǐng)域的發(fā)展提供絕佳機(jī)遇。傳統(tǒng)的計(jì)算架構(gòu)無法支撐深度學(xué)習(xí)的大規(guī)模并行計(jì)算需求，人工智能芯片是人工智能時(shí)代的技術(shù)核心之一，決定了平臺(tái)的基礎(chǔ)架構(gòu)和發(fā)展生態(tài)。

建議政府牽頭制定評(píng)測(cè)標(biāo)準(zhǔn)

當(dāng)前國內(nèi)外都將人工智能視為產(chǎn)業(yè)突圍的重大機(jī)遇。人工智能芯片作為底層技術(shù)，其應(yīng)用領(lǐng)域也遍布金融、股票交易、商品推薦、安防以及無人駕駛等眾多領(lǐng)域。如何為蓬勃發(fā)展的人工智能芯片建立一套評(píng)測(cè)標(biāo)準(zhǔn)？

“確實(shí)需要國家牽頭來認(rèn)證標(biāo)準(zhǔn)。”牛昕宇建議道，可以組織業(yè)內(nèi)用戶企業(yè)形成需求標(biāo)準(zhǔn)，由落地應(yīng)用牽引芯片評(píng)測(cè)標(biāo)準(zhǔn)。

當(dāng)前，在國家發(fā)改委、科技部、工信部、網(wǎng)信辦指導(dǎo)下，由中國信息通信研究院等單位發(fā)起的中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟，愈加重視芯片評(píng)估認(rèn)證工作。目前已經(jīng)聯(lián)合阿里巴巴集團(tuán)、百度、寒武紀(jì)科技等多家企業(yè)，推出了AIIA DNN benchmark——人工智能端側(cè)芯片基準(zhǔn)測(cè)試評(píng)估方案。

張蔚敏表示，該方案為芯片企業(yè)提供第三方評(píng)測(cè)結(jié)果，同時(shí)為應(yīng)用企業(yè)提供選型參考，幫助產(chǎn)品找到合適其應(yīng)用場(chǎng)景的芯片。目標(biāo)為客觀反映當(dāng)前以提升深度學(xué)習(xí)處理能力的AI加速器現(xiàn)狀，所有指標(biāo)旨在提供客觀比對(duì)維度。以“版本迭代、不斷豐富、不斷完善”的工作方式，為更多評(píng)測(cè)應(yīng)用場(chǎng)景、評(píng)測(cè)指標(biāo)等提供評(píng)估方案。

“這是解決缺失人工智能芯片評(píng)測(cè)標(biāo)準(zhǔn)問題的一個(gè)起步。”牛昕宇進(jìn)一步建議，今后希望有第三方機(jī)構(gòu)能夠公開評(píng)測(cè)標(biāo)準(zhǔn)和流程，由芯片公司、算法公司、系統(tǒng)集成廠商、最終用戶共同商議通過；每年定期發(fā)布國內(nèi)芯片公司以及國際芯片巨頭的芯片評(píng)測(cè)結(jié)果；政府對(duì)于人工智能芯片行業(yè)的支持政策可以參考評(píng)測(cè)結(jié)果。