編者按：7 月 12 日-7 月 14 日，2019 第四屆全球人工智能與機(jī)器人峰會(huì)（CCF-GAIR 2019）于深圳正式召開(kāi)。峰會(huì)由中國(guó)計(jì)算機(jī)學(xué)會(huì)（CCF）主辦，記者、香港中文大學(xué)（深圳）承辦，深圳市人工智能與機(jī)器人研究院協(xié)辦，得到了深圳市政府的大力指導(dǎo)，是國(guó)內(nèi)人工智能和機(jī)器人學(xué)術(shù)界、工業(yè)界及投資界三大領(lǐng)域的頂級(jí)交流博覽盛會(huì)，旨在打造國(guó)內(nèi)人工智能領(lǐng)域極具實(shí)力的跨界交流合作平臺(tái)。

7 月 13 日的 AI 芯片專(zhuān)場(chǎng)，南京天數(shù)智芯科技有限公司（以下簡(jiǎn)稱(chēng)天數(shù)智芯）創(chuàng)始人、董事長(zhǎng)兼 CEO 李云鵬帶來(lái)了主題為《海量數(shù)據(jù)時(shí)代的全算力》的演講。

天數(shù)智芯創(chuàng)始人、董事長(zhǎng)兼 CEO 李云鵬

李云鵬首先提到，澤字節(jié)時(shí)代（ Zettabyte Era）數(shù)據(jù)體量十分龐大，數(shù)據(jù)的收集、組織、分析和運(yùn)用都將對(duì)社會(huì)和科技的發(fā)展帶來(lái)不可忽視的影響，這一切都對(duì)算力有了更高的要求。但隨著數(shù)據(jù)量的不斷增長(zhǎng)、算法不斷演進(jìn)和迭代，對(duì)極致算力的需求也越來(lái)越多，此時(shí)就需要將軟硬件充分結(jié)合起來(lái)。這也是天數(shù)智芯決定打造高性能 AI 芯片的原因之一。

記者(公眾號(hào)：記者)了解到，天數(shù)智芯已經(jīng)布局了云端、邊緣端和終端的 AI 芯片，將針對(duì)不同的市場(chǎng)，提供云、邊、端的算力支持；其 GPGPU 流片計(jì)劃正在如期推進(jìn)，據(jù)現(xiàn)有 PPA 數(shù)據(jù)顯示，對(duì)比 Nvidia V100，會(huì)有三倍的功耗比提升。而且，在6月中旬的斯坦福 DAWN Bench 深度學(xué)習(xí)推理榜單中，天數(shù)智芯的圖像識(shí)別性能斬獲第一，性能比此前榜單中表現(xiàn)最優(yōu)的機(jī)構(gòu)提升了30%，與華為、寒武紀(jì)、阿里云分列榜單前四位置。

在大會(huì)演講結(jié)束之后，李云鵬接受了記者的采訪，精彩內(nèi)容節(jié)選如下：

記者：您一直在強(qiáng)調(diào)全算力的重要性，您認(rèn)為，天數(shù)智芯在這方面的優(yōu)勢(shì)什么時(shí)候能發(fā)揮出來(lái)？

李云鵬：機(jī)會(huì)是留給有準(zhǔn)備的人的。天數(shù)智芯雖然 2015 年才成立，但在成立之前，我們也花了很長(zhǎng)時(shí)間來(lái)思考究竟要做什么。眼下，隨著 5G 逐漸普及，數(shù)據(jù)不斷累積，各行各業(yè)都需要從海量數(shù)據(jù)當(dāng)中提取自己所需要的、具有價(jià)值的數(shù)據(jù)。在接下來(lái)兩三年里將爆發(fā)數(shù)據(jù)驅(qū)動(dòng)的“春天”，我們認(rèn)為，天數(shù)智芯恰巧趕上了這一波浪潮。

記者：天數(shù)智芯將會(huì)推出高性能云端 GPGPU Big Island，請(qǐng)問(wèn)這是出于什么樣的考慮？

李云鵬：如果是對(duì)一個(gè)沒(méi)有做過(guò)芯片設(shè)計(jì)公司來(lái)說(shuō)，這種選擇肯定是有風(fēng)險(xiǎn)的。不過(guò)，天數(shù)智芯不一樣。首先，天數(shù)智芯有一支可以說(shuō)是國(guó)內(nèi)唯一的完整高端芯片設(shè)計(jì)團(tuán)隊(duì)，有著豐富而完整的高端芯片產(chǎn)品研發(fā)經(jīng)驗(yàn)和技術(shù)實(shí)力。其次，天數(shù)智芯通過(guò)即將推出的邊緣端AI芯片EPU，將產(chǎn)品研發(fā)設(shè)計(jì)全流程打通，進(jìn)一步降低風(fēng)險(xiǎn)，提前獲得市場(chǎng)反饋來(lái)為高性能云端芯片積累經(jīng)驗(yàn)。

記者：云端市場(chǎng)代表相對(duì)穩(wěn)定的需求，產(chǎn)品迭代的周期也會(huì)更長(zhǎng)，這會(huì)對(duì)公司的營(yíng)收產(chǎn)生影響嗎？

李云鵬：從某種意義上來(lái)說(shuō)確實(shí)是這樣，因?yàn)橐豢钭钚碌姆?wù)器產(chǎn)品問(wèn)世之后，一開(kāi)始其實(shí)沒(méi)有多大的銷(xiāo)量。但研發(fā)周期長(zhǎng)其實(shí)是件好事，因?yàn)槲覀冋f(shuō)的穩(wěn)定不是看某一個(gè)模塊的穩(wěn)定，而是整個(gè)系統(tǒng)，軟硬件協(xié)同的穩(wěn)定。我大學(xué)第一堂課的老師，說(shuō)了這么一句話，“坐下來(lái)，鉆進(jìn)去，好好做學(xué)問(wèn)”。在高端通用芯片和基礎(chǔ)軟件的領(lǐng)域也是這樣，需要長(zhǎng)時(shí)間的投入也需要持之以恒的決心。

以下是李云鵬大會(huì)現(xiàn)場(chǎng)全部演講內(nèi)容，記者作了不改變?cè)獾恼砑熬庉嫞?/strong>

謝謝各位，謝謝大會(huì)主辦方，這是我第二次來(lái)到 CCF-GAIR 的會(huì)場(chǎng)，今天報(bào)告的主題是《海量數(shù)據(jù)時(shí)代的全算力》。

什么是 Zettabyte Era？數(shù)據(jù)的累計(jì)達(dá)到一定體量，收集、分析、運(yùn)用數(shù)據(jù)必然推動(dòng)社會(huì)的發(fā)展。無(wú)論是 Collect、Organize、Analyze、Infuse 都會(huì)遇到這個(gè)問(wèn)題。作為創(chuàng)業(yè)公司，什么是根本性的需求，我們的答案非常簡(jiǎn)單——隨著數(shù)據(jù)體量不斷增加、算法不斷演進(jìn)和迭代，對(duì)數(shù)據(jù)的處理本身需要所謂的算力。

那么，什么是算力？我們的產(chǎn)品是做哪部分的算力？我們說(shuō)提供全面的算力，這個(gè)“全面”又指什么？舉個(gè)例子，這張圖片上有一輛賽車(chē)，無(wú)論是在北京二環(huán)開(kāi)車(chē)，還是在上海高架上開(kāi)車(chē)，車(chē)況、車(chē)流、天氣情況都會(huì)與車(chē)輛的駕駛速度密切相關(guān)。換句話說(shuō)，汽車(chē)的引擎可以定義為硬件，整個(gè)路況、車(chē)流、天氣和操控定義為軟件，從這個(gè)意義上來(lái)講，只有軟硬件的充分結(jié)合才能提升極致的算力。

很多公司要么做硬件、要么做軟件、要么做 AI 的算法，其實(shí)這對(duì)整個(gè)合作來(lái)說(shuō)是非常大的 挑戰(zhàn)，傳統(tǒng)業(yè)界的迭代升級(jí)大概需要花十年的時(shí)間，硬件的研發(fā)周期相對(duì)來(lái)說(shuō)以年為計(jì)算，而軟件隨著開(kāi)源的發(fā)展，迭代周期越來(lái)越快，軟件平均兩周有很大的迭代，具體可以說(shuō)是以天為計(jì)算。

不同領(lǐng)域有不同的專(zhuān)長(zhǎng)，對(duì)天數(shù)智芯來(lái)說(shuō)，我們?cè)诤Ａ繑?shù)據(jù)處理時(shí)代看到了自身發(fā)展的機(jī)遇，即為具體 AI 應(yīng)用提供相應(yīng)的軟件平臺(tái)，同時(shí)提供極致算力的硬件服務(wù)或是芯片的服務(wù)。

我們技術(shù)的開(kāi)發(fā)邏輯是這樣的：首先從軟件算力切入，軟件算力是什么？是如何利用軟件來(lái)提升已有硬件的平均算力。如今，天數(shù)智芯的中間件產(chǎn)品可以和市場(chǎng)上已有的任何一款開(kāi)源計(jì)算框架完美配合，能在已有的硬件處理器上達(dá)到更高的處理效率。隨著中間件的推出和上層應(yīng)用的不斷落地，我們也將推出相應(yīng)的芯片產(chǎn)品，為已有的硬件產(chǎn)品和已有的系統(tǒng)解決方案提供平滑的、透明的遷移。

那么，我們?nèi)绾巫鏊懔δ兀啃袠I(yè)內(nèi)一共有三種方式：一是通過(guò)寫(xiě)代碼；二是通過(guò)中間件；三是選擇基礎(chǔ)的算子層級(jí)。天數(shù)智芯就是選擇了第三種路徑，即所謂的基礎(chǔ)軟件層加速技術(shù)。因?yàn)椋?strong>整個(gè)計(jì)算力受到多方面因素影響，不僅要面臨處理器的問(wèn)題，還要面臨 I/O 的問(wèn)題；不僅要解決機(jī)器越做越大，還要解決機(jī)器越做越多的問(wèn)題，包括新的標(biāo)準(zhǔn)化硬件不斷地推出。

在上個(gè)月的斯坦福 DAWN Bench 深度學(xué)習(xí)推理榜單中，天數(shù)智芯和另外三家國(guó)內(nèi)企業(yè)分別為前四名，我們?nèi)〉昧说谝幻暮贸煽?jī)，亞馬遜是第五名。

還有一個(gè)主要的問(wèn)題關(guān)于 AI 芯片。每當(dāng)談及芯片的時(shí)候，大家都會(huì)想到美國(guó)搞發(fā)明、日本把它做小、中國(guó)把它做便宜。而且，一談到芯片，大家首先關(guān)注的就是量，沒(méi)有量做什么芯片？談到量的東西或者是可能達(dá)到現(xiàn)象級(jí)的量，我喜歡用 Gompertz 曲線，上一個(gè)現(xiàn)象級(jí)的需求來(lái)自于手機(jī)。

關(guān)于全球晶體管市場(chǎng)的需求，從上圖 2010 年到 2015 年的需求數(shù)據(jù)來(lái)看，我們即將面臨半導(dǎo)體市場(chǎng)的增長(zhǎng)大潮。市場(chǎng)上有各種各樣的半導(dǎo)體公司，有成熟的、有初創(chuàng)的。芯片的研發(fā)也有不同的開(kāi)發(fā)策略，一般是根據(jù)需求和性能來(lái)決定開(kāi)發(fā)的策略。我們的 AI 芯片需要什么樣的功能？過(guò)去兩年大家都在說(shuō)摩爾定律已經(jīng)不行了，CPU 解決不了 AI 大數(shù)據(jù)時(shí)代的問(wèn)題，所以要用 GPU AI 芯片。

Makimoto 對(duì)半導(dǎo)體的發(fā)展也有貢獻(xiàn)，比如 Makimoto's Wave。從 60 年代以來(lái)，半導(dǎo)體的發(fā)展趨近標(biāo)準(zhǔn)化和定制化。如今已經(jīng)是 2019 年，過(guò)去數(shù)年我們一直在呼喚AI 芯片和高性能計(jì)算芯片，如果 Makimoto’s Wave 仍然有效的話，下一個(gè)波峰將是超高靈活度集成的芯片，同樣的標(biāo)準(zhǔn)化硬件也發(fā)生在 90 年代末期和 2000 年代中期的 FPGA 時(shí)代和英特爾時(shí)代。

硬件的開(kāi)發(fā)策略是要提供超高靈活度的高性能處理芯片，這種情況下，市場(chǎng)上有沒(méi)有同款芯片？ 天數(shù)智芯提供了很好的選擇，除了做計(jì)算以外，還提供一個(gè)完整的、可編程的標(biāo)準(zhǔn)性架構(gòu)，為此針對(duì)當(dāng)前流行的數(shù)據(jù)驅(qū)動(dòng)型應(yīng)用，包括 AI 算法本身做專(zhuān)門(mén)的定制和優(yōu)化。我們的 IP 提供完整的靈活度，我們針對(duì)不同的市場(chǎng)，不僅有云，還有邊、端，或是任何一個(gè)需要相應(yīng)算力支持的地方，這是很重要的定義。

天數(shù)智芯在過(guò)去三年的努力中，已有的數(shù)據(jù)在云端訓(xùn)練好可以使用邊緣計(jì)算系統(tǒng)和平臺(tái)套裝，無(wú)縫的遷移至硬件端。今天看到所有在試驗(yàn)車(chē)上運(yùn)行的應(yīng)用，是基于 NVidia TX2，相應(yīng)的 Iluvatar EPU 產(chǎn)品也將在近期發(fā)布，做到完整的軟硬件結(jié)合的客控系統(tǒng)。

關(guān)于Edge Cloud。5G 來(lái)了，我們的手機(jī)離基站越來(lái)越近了，但基站離數(shù)據(jù)中心還很遠(yuǎn)，不斷產(chǎn)生的計(jì)算需求將會(huì)向邊緣端涌入。邊緣端是否具備足夠大的計(jì)算能力？為此我們也推出了終端芯片解決方案。

我的老東家是 Oracle。記得2009 年 Oracle 把惠普的 CEO 馬克·赫德招過(guò)來(lái)，馬克·赫德給中層開(kāi)會(huì)的時(shí)候說(shuō)，你們知不知道任何一家數(shù)據(jù)中心買(mǎi)惠普的產(chǎn)品，他的生命周期有多長(zhǎng)？答案是20年。這就意味著數(shù)據(jù)中心持續(xù)的變化相對(duì)小。對(duì)標(biāo) Nvidia V100，我們相應(yīng)的流片計(jì)劃正在正常推進(jìn)，據(jù)現(xiàn)有 PPA 數(shù)據(jù)顯示，將會(huì)有三倍的功耗比提升，就算是比較下一代的 V100 產(chǎn)品，天數(shù)智芯的 BI 依然有 75% 性能提升。

我們?nèi)绾巫鲆豢铎`活的算力芯片，配合開(kāi)源生態(tài)和已有生態(tài)的軟件，為整個(gè)系統(tǒng)提供支撐？這是我們所謂協(xié)同設(shè)計(jì)的基礎(chǔ)概念，如何 Meet In The Middle，兩者之間是否能融合？這個(gè)時(shí)候，物理學(xué)概念動(dòng)態(tài)平衡 Dynamic Equilibrium 的有趣之處就體現(xiàn)出來(lái)了，天數(shù)智芯兩方面（軟件和硬件）的業(yè)務(wù)具備動(dòng)態(tài)平衡的特征，兩者之間是可以相互轉(zhuǎn)換的，換句話說(shuō)，軟件能為硬件迭代，硬件能為軟件進(jìn)步提升提供幫助。任何一個(gè)狀態(tài)本身的此消彼漲，軟件多一點(diǎn)硬件就會(huì)少一點(diǎn)。

我對(duì) Steve Jobs 的書(shū)看得不多，但有一句話我非常有感想——“I discovered that the best innovation is sometimes the company, the way you organize”（ 我發(fā)現(xiàn)最好的創(chuàng)新是系統(tǒng)組織的化身， 即公司本身）。當(dāng)前時(shí)代非常適合創(chuàng)業(yè)創(chuàng)新，我們可以實(shí)現(xiàn)技術(shù)創(chuàng)新、市場(chǎng)創(chuàng)新、模式創(chuàng)新等，而作為一個(gè)公司本身最好的創(chuàng)新是什么？是如何系統(tǒng)化組織。作為一家科技公司，如何組織規(guī)劃自身的產(chǎn)品，變成一個(gè)有活力的組織是很有必要的。

謝謝各位，這是我分享的內(nèi)容。