www.久久久久|狼友网站av天堂|精品国产无码a片|一级av色欲av|91在线播放视频|亚洲无码主播在线|国产精品草久在线|明星AV网站在线|污污内射久久一区|婷婷综合视频网站

當(dāng)前位置:首頁(yè) > 智能硬件 > 智能硬件
[導(dǎo)讀]因此,不管無(wú)論是從經(jīng)濟(jì)效益還是熱效率的角度看,我們都必須要降低人工智能運(yùn)行的能耗。阿姆斯特丹大學(xué)機(jī)器學(xué)習(xí)首席教授Max Welling認(rèn)為目前深度學(xué)習(xí)能耗很高,算法非常低效,如何研發(fā)出更節(jié)能更高效的硬件,成為人工智能的下一個(gè)戰(zhàn)場(chǎng)。

 在人們還在思考著人工智能將會(huì)給人類帶來(lái)什么挑戰(zhàn)時(shí),人工智能卻已經(jīng)深入經(jīng)濟(jì)和產(chǎn)業(yè)的每個(gè)細(xì)分領(lǐng)域,我們每天使用的很多產(chǎn)品已經(jīng)具備了人工智能的能力。高通總裁克里斯蒂安諾·阿蒙表示,到2021年人工智能衍生的商業(yè)價(jià)值將達(dá)3.3萬(wàn)億美元,人工智能將成為驅(qū)動(dòng)所有行業(yè)變革的關(guān)鍵。

事實(shí)是,人工智能要實(shí)現(xiàn)規(guī)?;?,智能必須分布至無(wú)線邊緣。高通正在研究加速人工智能在終端側(cè)的創(chuàng)新。但隨著人工智能的發(fā)展,消耗的能源越來(lái)越多。從統(tǒng)計(jì)數(shù)據(jù)上看,有數(shù)據(jù)預(yù)測(cè)到2025年,全球的數(shù)據(jù)中心將消耗全球所有可有電力的20%;另外,實(shí)現(xiàn)終端側(cè)人工智能還存在散熱的限制,如果手機(jī)里運(yùn)行能耗過(guò)高的任務(wù),手機(jī)就會(huì)變得非常熱。

因此,不管無(wú)論是從經(jīng)濟(jì)效益還是熱效率的角度看,我們都必須要降低人工智能運(yùn)行的能耗。阿姆斯特丹大學(xué)機(jī)器學(xué)習(xí)首席教授Max Welling認(rèn)為目前深度學(xué)習(xí)能耗很高,算法非常低效,如何研發(fā)出更節(jié)能更高效的硬件,成為人工智能的下一個(gè)戰(zhàn)場(chǎng)。

受人類大腦的啟發(fā),高通十年前就開始了脈沖神經(jīng)網(wǎng)絡(luò)的研究,這是實(shí)現(xiàn)低功耗計(jì)算的一種方法。同樣受到人類大腦的啟發(fā),高通正在考慮利用噪音來(lái)實(shí)現(xiàn)深度學(xué)習(xí)方面的低功耗計(jì)算,也就是著名的“貝葉斯深度學(xué)習(xí)”。

“貝葉斯在高壓縮比的情況下尤其展現(xiàn)出了明顯的性能優(yōu)勢(shì)。”Max Welling總結(jié)道,“貝葉斯可以將網(wǎng)絡(luò)規(guī)模壓縮得更小、量化程度更高,同時(shí)不損失過(guò)多的準(zhǔn)確性,這是非常好的一個(gè)方法。”

雖然在可用的壓縮算法技術(shù)相關(guān)學(xué)術(shù)著作可謂汗牛充棟,但侯紀(jì)磊認(rèn)為,貝葉斯在訓(xùn)練上難度更高,但取得的效果更深。而Max Welling也認(rèn)為,在眾多技術(shù)流派中,以貝葉斯為主導(dǎo)的壓縮算法是最有效的。

以下是對(duì)韋靈思與侯紀(jì)磊的采訪實(shí)錄:

 

 

圖:侯紀(jì)磊(左一)與韋靈思(左二)正在接受采訪

問(wèn):阿蒙總裁在演講中提到,要把智能分布到無(wú)線邊緣,并且在最靠近數(shù)據(jù)的邊緣設(shè)備上完成訓(xùn)練。我們知道各種人工智能應(yīng)用都需要大數(shù)據(jù)來(lái)進(jìn)行訓(xùn)練,如果訓(xùn)練放在終端側(cè)完成,我們?nèi)绾未_認(rèn)終端側(cè)訓(xùn)練的完成?將智能分布到終端側(cè)的優(yōu)勢(shì)是什么?

韋靈思:我們首先談?wù)勥M(jìn)行分布式計(jì)算的優(yōu)勢(shì)。一方面,當(dāng)我們將計(jì)算任務(wù)分布在不同邊緣終端上完成,我們將獲得更多可用的計(jì)算力。另一方面,數(shù)據(jù)也可以分布于邊緣終端上。

至于在不同終端上完成人工智能模型的訓(xùn)練,這其實(shí)不是零散的過(guò)程。分布式訓(xùn)練的融合是個(gè)重要問(wèn)題,我們正在開發(fā)新的算法,以保證在數(shù)據(jù)不變的情況下,在不同終端上完成的訓(xùn)練得以融合。如果數(shù)據(jù)是持續(xù)變化的,那將是持續(xù)學(xué)習(xí)的過(guò)程。

侯紀(jì)磊:我對(duì)韋教授提到的模型訓(xùn)練補(bǔ)充更多說(shuō)明。首先,傳統(tǒng)上人工智能模型的訓(xùn)練都是線下也就是在云端上實(shí)現(xiàn)。這種傳統(tǒng)方式的一種延伸是,我們可以通過(guò)私有云或邊緣計(jì)算來(lái)完成訓(xùn)練。這里說(shuō)的邊緣計(jì)算不一定是完全在終端側(cè)完成,也可以是在企業(yè)級(jí)網(wǎng)絡(luò)上開發(fā)私有的訓(xùn)練設(shè)備(training facility),甚至在家庭中的一個(gè)接入點(diǎn)(AP)上完成。未來(lái),只要我們?cè)诰W(wǎng)絡(luò)邊緣擁有足夠的計(jì)算力,我們就可以進(jìn)行模型的訓(xùn)練,這是完全可行的。

其次,韋教授剛剛提到的分布式學(xué)習(xí),這是另一種訓(xùn)練的方式。這種方式會(huì)通過(guò)每一個(gè)終端節(jié)點(diǎn)去采集本地?cái)?shù)據(jù),這里的終端可以是手機(jī)、物聯(lián)網(wǎng)設(shè)備或是其他形式,從每個(gè)終端上采集的本地?cái)?shù)據(jù)量可能都不足以完成模型訓(xùn)練。但分布式學(xué)習(xí)可以將訓(xùn)練分成兩個(gè)部分,第一部分包括前面提到的本地?cái)?shù)據(jù)采集,以及在終端側(cè)按照統(tǒng)一格式完成對(duì)本地?cái)?shù)據(jù)的訓(xùn)練預(yù)處理(pre-process training);第二部分則是將經(jīng)過(guò)預(yù)處理的訓(xùn)練數(shù)據(jù)匯集到一個(gè)統(tǒng)一的節(jié)點(diǎn)上以完成最終的訓(xùn)練,這個(gè)節(jié)點(diǎn)可以是云,也可以是像私有服務(wù)器這樣的邊緣計(jì)算。這就是分布式學(xué)習(xí)的一種模式。

舉個(gè)例子,假設(shè)我已經(jīng)部署了一個(gè)自動(dòng)語(yǔ)音識(shí)別系統(tǒng)(ASR),但希望能進(jìn)一步提高系統(tǒng)性能。我可以讓系統(tǒng)的100萬(wàn)個(gè)用戶都分別向我提供1個(gè)小時(shí)的數(shù)據(jù),這相當(dāng)于我擁有了100萬(wàn)個(gè)小時(shí)的數(shù)據(jù)可以進(jìn)行訓(xùn)練,從而幫助我進(jìn)一步完善模型。概括一下,這種方式通過(guò)分布式的數(shù)據(jù)采集完成模型的分布式訓(xùn)練,以持續(xù)改善模型。

第三種模型訓(xùn)練的方式我今天在大會(huì)上有介紹,是在終端層面上進(jìn)行持續(xù)學(xué)習(xí),并在持續(xù)學(xué)習(xí)的過(guò)程中通過(guò)終端側(cè)訓(xùn)練的方式,來(lái)不斷改善模型。

這就是三種不同的模型訓(xùn)練方式。第一種完全在線下完成;第二種結(jié)合線上和線下,在終端側(cè)完成數(shù)據(jù)采集及初步處理,然后匯集到總的節(jié)點(diǎn)去做更新;第三種完全在終端側(cè)完成。這三種方式都是可能的。

問(wèn):對(duì)于開發(fā)者來(lái)說(shuō),哪些功能比較適合放在終端側(cè),哪些比較適合放在云端?

侯紀(jì)磊:對(duì)開發(fā)者而言,無(wú)論是在終端側(cè)還是云端完成訓(xùn)練,都是可行的。

更多是從消費(fèi)者的角度看,從保護(hù)數(shù)據(jù)私密性考慮,我們認(rèn)為在終端側(cè)完成訓(xùn)練是很有意義的。舉個(gè)例子,消費(fèi)者可以選擇分布式訓(xùn)練的方式,也就是在終端側(cè)將數(shù)據(jù)處理到一定階段,甚至把訓(xùn)練的預(yù)處理數(shù)據(jù)進(jìn)行加密,然后才把這些數(shù)據(jù)發(fā)送到云端匯總。這樣的方式充分考慮了信息的私密性。此外,消費(fèi)者也可以選擇進(jìn)行個(gè)性化訓(xùn)練,也就是在終端側(cè)完成訓(xùn)練,不把任何數(shù)據(jù)發(fā)送到云端。這種方式能最好地保護(hù)信息的私密性。所以如果我們更多從考慮用戶數(shù)據(jù)私密性的角度出發(fā)的話,將來(lái)在終端側(cè)做訓(xùn)練是有很大意義的。

韋靈思:除了紀(jì)磊上面提到的私密性外,我認(rèn)為可靠性也是終端側(cè)處理的重要優(yōu)勢(shì)所在。像無(wú)人駕駛這樣的用例,對(duì)于網(wǎng)絡(luò)連接的可靠性有非常強(qiáng)的要求,因?yàn)檫B接一旦出現(xiàn)問(wèn)題,會(huì)導(dǎo)致很嚴(yán)重的后果。因此,把一部分計(jì)算放在終端側(cè)完成是很重要的。低時(shí)延是終端側(cè)處理的另一個(gè)優(yōu)勢(shì),很多用例對(duì)時(shí)延十分敏感,像是VR用例。最后,個(gè)性化也是終端側(cè)處理的優(yōu)勢(shì)之一。

問(wèn):Qualcomm一直強(qiáng)調(diào)異構(gòu)的計(jì)算架構(gòu),這樣的架構(gòu)可以為客戶提供更高的彈性。但我們也知道,系統(tǒng)的彈性越高,其復(fù)雜性也就相應(yīng)增加,Qualcomm如何應(yīng)對(duì)計(jì)算復(fù)雜性的挑戰(zhàn),以提供更好的開發(fā)和使用體驗(yàn)?

韋靈思:目前我們正在進(jìn)行一個(gè)研究項(xiàng)目,通過(guò)開發(fā)一個(gè)AI agent來(lái)實(shí)現(xiàn)對(duì)人工智能計(jì)算任務(wù)的全面自動(dòng)化管理。這一AI agent可以監(jiān)測(cè)很多工作負(fù)載,同時(shí)不斷進(jìn)行學(xué)習(xí),將計(jì)算任務(wù)放在最合適的地方處理。這個(gè)AI agent有望為開發(fā)者和用戶自動(dòng)完成復(fù)雜性管理。我們目前正在對(duì)這個(gè)算法進(jìn)行持續(xù)優(yōu)化,讓它實(shí)現(xiàn)自動(dòng)化的處理。

侯紀(jì)磊:我補(bǔ)充一下。雖然異構(gòu)計(jì)算的靈活性通常會(huì)帶來(lái)相應(yīng)的復(fù)雜度,但其實(shí)異構(gòu)計(jì)算一直是Qualcomm的強(qiáng)項(xiàng)。我們已經(jīng)將多個(gè)引擎通過(guò)異構(gòu)計(jì)算統(tǒng)一在同一框架下,并將靈活的集成方案提供給開發(fā)者。另外,我們也積極從業(yè)界獲得了很多反饋。比如說(shuō)在智能手機(jī)和物聯(lián)網(wǎng)領(lǐng)域,根據(jù)具體應(yīng)用性質(zhì)的不同,業(yè)界也已經(jīng)有一些自然的選擇偏向。像是音頻用例,我們知道它其實(shí)更適合于低功耗DSP來(lái)處理;如果是視覺用例,那么采用GPU并行處理會(huì)更為合適。所以說(shuō),在初期應(yīng)用的角度,不管是Qualcomm的推薦還是行業(yè)的自然選擇,我們已經(jīng)能看到使用不同異構(gòu)計(jì)算引擎的一些趨勢(shì)。同時(shí),我們還可以采取剛剛韋教授提到的方式,將來(lái)通過(guò)機(jī)器學(xué)習(xí)的算法來(lái)管理機(jī)器學(xué)習(xí)任務(wù),利用對(duì)工作負(fù)載的分析來(lái)自動(dòng)判斷哪個(gè)內(nèi)核最合適進(jìn)行處理。所以總體來(lái)說(shuō),我們一方面可以利用Qualcomm一貫的優(yōu)勢(shì)去管理復(fù)雜性,另一方面還可以通過(guò)自動(dòng)映射的方式來(lái)進(jìn)一步完善管理的過(guò)程。

問(wèn):韋靈思教授提到,未來(lái)人工智能算法將會(huì)以每瓦時(shí)所提供的智能的多少來(lái)衡量。Qualcomm一直利用貝葉斯深度學(xué)習(xí)來(lái)提高能效,有沒有一些具體的數(shù)據(jù)來(lái)說(shuō)明貝葉斯學(xué)習(xí)對(duì)于降低算法能耗的效果?

韋靈思:在我的演講當(dāng)中為大家展示了一個(gè)在圖像分類的實(shí)際用例中對(duì)比不同神經(jīng)網(wǎng)絡(luò)壓縮方法的示意圖(如下)。從這個(gè)示意圖中可以看到,貝葉斯在高壓縮比的情況下尤其展現(xiàn)出了明顯的性能優(yōu)勢(shì)。至于具體的數(shù)字,在不同實(shí)際用例中我們會(huì)得到不同的數(shù)據(jù)對(duì)比。除了圖像分類外,我們還在其他用例下做了對(duì)比實(shí)驗(yàn)。總的來(lái)說(shuō),貝葉斯可以將網(wǎng)絡(luò)規(guī)模壓縮得更小、量化程度更高,同時(shí)不損失過(guò)多的準(zhǔn)確性,這是非常好的一個(gè)方法。

 

 

侯紀(jì)磊:在韋教授的例子中,貝葉斯通過(guò)2%左右的準(zhǔn)確度損失來(lái)實(shí)現(xiàn)了3倍的壓縮比,3倍壓縮比大概可以等同于3倍的能耗降低,你可以以此作為一個(gè)參考。當(dāng)然,3倍的壓縮比提升是在這一具體用例中實(shí)現(xiàn)的。在這個(gè)用例中,ResNet-18本身已經(jīng)是一個(gè)簡(jiǎn)潔的網(wǎng)絡(luò)了,對(duì)這個(gè)網(wǎng)絡(luò)進(jìn)行更多壓縮的難度很大。在這樣的情況下貝葉斯依然取得了3倍的壓縮比,這充分展現(xiàn)了貝葉斯的強(qiáng)大之處。我想強(qiáng)調(diào)的是,具體的壓縮比例與被壓縮網(wǎng)絡(luò)本身設(shè)計(jì)的冗余度、以及具體的應(yīng)用場(chǎng)景都有聯(lián)系。

問(wèn):除了貝葉斯算法外,Qualcomm是否還在開發(fā)其他類似的壓縮算法?在中國(guó)業(yè)內(nèi),像深鑒科技等公司開發(fā)的壓縮算法可以實(shí)現(xiàn)超過(guò)十倍、二十倍的壓縮比。Qualcomm是不是也有計(jì)劃開發(fā)壓縮比更高的算法?

韋靈思:我認(rèn)為孤立地去看一個(gè)算法的壓縮比是沒有意義的。我曾經(jīng)在一個(gè)神經(jīng)網(wǎng)絡(luò)上實(shí)現(xiàn)過(guò)700倍的壓縮比,而且沒有損失任何準(zhǔn)確率;但這個(gè)被壓縮的網(wǎng)絡(luò)本身就是過(guò)度冗余的,它是一種VGG網(wǎng)絡(luò),這種網(wǎng)絡(luò)從設(shè)計(jì)之初效率就很低,因此700倍的壓縮比其實(shí)不能說(shuō)明什么。但正如紀(jì)磊剛才談到的,貝葉斯在ResNet-18這個(gè)本來(lái)已經(jīng)非常緊湊的網(wǎng)絡(luò)上實(shí)現(xiàn)了3倍壓縮比,這充分說(shuō)明了它的性能。Gary在他的演講中展示過(guò)一個(gè)對(duì)比不同網(wǎng)絡(luò)的準(zhǔn)確率和運(yùn)算次數(shù)之比的示意圖(如下),在這個(gè)圖中ResNet-18已經(jīng)處于準(zhǔn)確率/運(yùn)算次數(shù)的最優(yōu)曲線上,所以說(shuō)貝葉斯3倍的壓縮比已經(jīng)很強(qiáng)大。對(duì)于像VGG這類遠(yuǎn)離最優(yōu)曲線的冗余網(wǎng)絡(luò)來(lái)說(shuō),完全可以實(shí)現(xiàn)非常高的壓縮比。

 

 

侯紀(jì)磊:我再跟大家解釋一下這張示意圖,因?yàn)槔斫膺@張圖很重要。橫軸是網(wǎng)絡(luò)的復(fù)雜度,縱軸是準(zhǔn)確率。而圖上的這條曲線,指的是從設(shè)計(jì)網(wǎng)絡(luò)的角度看,我在任意一個(gè)既定的復(fù)雜度下能夠?qū)崿F(xiàn)的最高的準(zhǔn)確率。這條曲線實(shí)際是條包絡(luò)線,所有的網(wǎng)絡(luò)都在它的右下方。

這張包絡(luò)線代表了當(dāng)前網(wǎng)絡(luò)設(shè)計(jì)的最高境界,也代表了在復(fù)雜度恒定的情況下可以實(shí)現(xiàn)的最高的準(zhǔn)確率,或者說(shuō)是在準(zhǔn)確率恒定的情況下可以實(shí)現(xiàn)的最低的復(fù)雜度。如果我們要談在某個(gè)網(wǎng)絡(luò)上實(shí)現(xiàn)了多少倍的壓縮比,首先我們需要先看這個(gè)網(wǎng)絡(luò)離包絡(luò)線也就是最佳曲線有多遠(yuǎn)。如果這個(gè)網(wǎng)絡(luò)本身遠(yuǎn)離了包絡(luò)線,那我們討論它能實(shí)現(xiàn)多少倍壓縮其實(shí)是沒有意義的。

韋靈思:目前其實(shí)存在著一系列可用的壓縮算法,其中一部分由我所在的大學(xué)實(shí)驗(yàn)室所開發(fā),與這一系列算法技術(shù)相關(guān)的學(xué)術(shù)著作可謂汗牛充棟。我們對(duì)所有這些技術(shù)都進(jìn)行過(guò)試驗(yàn)和測(cè)試,結(jié)果表明,以貝葉斯為主導(dǎo)的壓縮算法是最有效的。

侯紀(jì)磊:深度剪枝其實(shí)是深鑒一位聯(lián)合創(chuàng)始人最早提出來(lái)的概念,在去年底NIPS大會(huì)結(jié)束后我們邀請(qǐng)他到Qualcomm做過(guò)一次分享,當(dāng)時(shí)韋教授也在,雙方都有比較深的交流。從我們的角度看,我們認(rèn)為韋教授提出的方法在數(shù)學(xué)第一原則的角度看是更為深刻的,往往當(dāng)你從第一原則的角度去設(shè)計(jì)一個(gè)比較復(fù)雜的方法時(shí),這個(gè)方法的潛力和最終得到的效率會(huì)更好。根據(jù)我們對(duì)數(shù)學(xué)和對(duì)深度學(xué)習(xí)體驗(yàn)的了解,我們相信通過(guò)貝葉斯方法、從第一原則出發(fā)去設(shè)計(jì)的做法,相對(duì)來(lái)說(shuō)它的效果會(huì)更好。

問(wèn):是否可以理解為貝葉斯算法在普適性和泛用性方面更卓越?

侯紀(jì)磊:其實(shí)貝葉斯在訓(xùn)練上的難度更高,但它取得的效果會(huì)更深。深鑒的剪枝方法非常有啟發(fā)性,大家也很容易理解,然而這不意味著就是最優(yōu)的方法。我們相信,從數(shù)學(xué)的角度去接近最優(yōu)的方法,這是韋教授這套方法的優(yōu)勢(shì)之一。

問(wèn):我們知道AI的學(xué)習(xí)和計(jì)算需要收集很多數(shù)據(jù),包含個(gè)人數(shù)據(jù)和管理數(shù)據(jù)來(lái)進(jìn)行模型的建立。歐盟近期即將頒布一項(xiàng)名為General Data Protection Regulation(GDPR)的法令,在此法令下,只要你沒有保護(hù)好那些有可能可以辨識(shí)出特定人物或地點(diǎn)的數(shù)據(jù),你就可能遭受嚴(yán)重懲罰。你對(duì)此有什么看法?

韋靈思:首先GDPR僅適用于歐盟,在中國(guó)和美國(guó)都沒有這樣的規(guī)定。從我個(gè)人的角度,我對(duì)GDPR持支持態(tài)度,因?yàn)槲矣X得保護(hù)隱私非常重要。同時(shí),我相信GDPR這樣的約束將會(huì)驅(qū)動(dòng)更多創(chuàng)新。從技術(shù)層面看,我們可以通過(guò)一些技術(shù)解決方案去應(yīng)對(duì)這樣的挑戰(zhàn),比如說(shuō)是數(shù)據(jù)加密,或者在本地資源的范疇內(nèi)完成模型訓(xùn)練。假設(shè)有兩家醫(yī)院,我可以要求他們從數(shù)據(jù)源上支持模型更新,我們可以創(chuàng)建一個(gè)協(xié)議,在這個(gè)協(xié)議之下所有發(fā)送給我的信息都是私密的,所有這些信息都無(wú)法提取出個(gè)人資料。這實(shí)際上是一種分布式的思路。對(duì)于Qualcomm來(lái)說(shuō),這思路非常有趣,因?yàn)槿磕P偷母露疾荒茉谥行幕脑粕线M(jìn)行,邊緣計(jì)算就顯得更為重要了。另一種解決方案是加密模型,我們可以將模型的每次更新進(jìn)行加密,這樣即使我們?cè)谠粕细铝四P?,也不能看到更新本身的詳情,更不能從云上獲取到具體信息。

問(wèn):高通分享了汽車和自動(dòng)駕駛方面的規(guī)劃,從介紹看來(lái)還是以信息娛樂系統(tǒng)設(shè)計(jì)為主。這是因?yàn)镼ualcomm在自動(dòng)駕駛方面還沒有完整規(guī)劃嗎?還是與未完成的恩智浦收購(gòu)案有關(guān)?

侯紀(jì)磊:一方面,我們今天更多強(qiáng)調(diào)的是Qualcomm在車載信息處理和信息娛樂市場(chǎng)取得了非常好的發(fā)展勢(shì)頭,這也給了我們信心,我們應(yīng)該繼續(xù)在汽車市場(chǎng)上加大投入。我還想要強(qiáng)調(diào)的是,在自動(dòng)駕駛領(lǐng)域,對(duì)于如何通過(guò)整體的方式來(lái)發(fā)展面向自動(dòng)駕駛的人工智能技術(shù),Qualcomm對(duì)此有非常深入的見解和看法。我們?cè)诖髸?huì)上也特別強(qiáng)調(diào)了Qualcomm不僅只是構(gòu)建一個(gè)系統(tǒng)、把demo建起來(lái),我們還更多地從能耗、成本和安全等多個(gè)角度來(lái)考慮這個(gè)事情。在一些具體方面,比如說(shuō)傳感器的研發(fā)和傳感器融合,包括今天提到的利用攝像頭、雷達(dá)等主動(dòng)式傳感器和C-V2X主動(dòng)通信技術(shù),以幫助駕駛員規(guī)避危險(xiǎn)、且進(jìn)一步提高傳感器信息融合,在這些方面我們都有很多的投入。

問(wèn):你在大會(huì)上講了很多語(yǔ)音交互方面的內(nèi)容,請(qǐng)問(wèn)是基于什么考慮?此外,目前除了智能音箱,語(yǔ)音交互技術(shù)還應(yīng)用到大量手機(jī)甚至PC終端上,你如何看待語(yǔ)音交互在終端側(cè)的應(yīng)用趨勢(shì)?

侯紀(jì)磊:先回答你的第一個(gè)問(wèn)題。首先,對(duì)于手機(jī)來(lái)說(shuō),無(wú)論是輸入還是交互,兩個(gè)最重要的方式是通過(guò)攝像頭和通過(guò)音頻。因此,語(yǔ)音交互技術(shù)本身非常重要,可以說(shuō)業(yè)界對(duì)這種技術(shù)存在一些剛需。

其次,阿蒙總裁在大會(huì)的演講上談到了推動(dòng)終端側(cè)人工智能的兩個(gè)重要方向,一個(gè)是發(fā)展高能效的人工智能,這正是今天韋教授演講的主題,就是如何在終端上用能效最高的方式來(lái)運(yùn)行算法。第二個(gè)方向是發(fā)展個(gè)性化的人工智能,這其中有幾個(gè)重要特性,包括情景式感知、始終開啟和通過(guò)持續(xù)學(xué)習(xí)實(shí)現(xiàn)自主適應(yīng)。這幾個(gè)特性有三個(gè)共通的重要元素——終端側(cè)、低功耗和個(gè)性化。這三個(gè)元素?zé)o論對(duì)于語(yǔ)音交互本身還是對(duì)于更寬泛的應(yīng)用而言,在推動(dòng)終端側(cè)人工智能發(fā)展上都是非常重要的。

而語(yǔ)音交互剛好可以把這幾個(gè)元素綜合到一起,因此我認(rèn)為這是展現(xiàn)終端側(cè)人工智能發(fā)展趨勢(shì)的一個(gè)很好的話題。

此外,你剛才也提到了在終端側(cè)完成訓(xùn)練的問(wèn)題。從模型適應(yīng)的角度看,語(yǔ)音交互實(shí)際上是持續(xù)在終端層面上完成模型更新,因此它也是終端側(cè)訓(xùn)練的一個(gè)很好的用例。

再回答你關(guān)于趨勢(shì)的問(wèn)題。其實(shí)我們非常高興看到OEM廠商和其他生態(tài)系統(tǒng)成員持續(xù)推動(dòng)和拓展語(yǔ)音交互在不同終端上的應(yīng)用。我們的目標(biāo)并不是要構(gòu)建一個(gè)完整的終端側(cè)語(yǔ)音交互系統(tǒng),我在大會(huì)的演講中有著重強(qiáng)調(diào),Qualcomm旨在構(gòu)建一個(gè)終端側(cè)的解決方案架構(gòu)。如果OEM廠商或獨(dú)立軟件開發(fā)商有比較好的解決方案,我認(rèn)為Qualcomm和他們?cè)谏鷳B(tài)系統(tǒng)內(nèi)相互補(bǔ)充會(huì)是一件非常好的事情。從另一個(gè)角度看,我們認(rèn)為無(wú)關(guān)鍵字(keyword-less)、始終開啟的語(yǔ)音交互將會(huì)是未來(lái)非常重要的一個(gè)技術(shù)方向。這需要通過(guò)真正低功耗的硬件架構(gòu)作為支撐,在這方面我們還有大量的工作需要完成。

韋靈思:紀(jì)磊已經(jīng)談得十分全面了,我再稍微補(bǔ)充我的看法。這其實(shí)可以回到我們的第一個(gè)問(wèn)題去看。計(jì)算可以在云端完成,也可以在邊緣或者說(shuō)終端側(cè)完成,關(guān)鍵在于將計(jì)算任務(wù)分配到最合適的地方進(jìn)行處理。我相信,我們將會(huì)采用組合式的方法來(lái)完成,比如將一部分對(duì)時(shí)延不敏感的計(jì)算放在云端處理,將時(shí)延敏感性任務(wù)放在終端側(cè)。實(shí)質(zhì)上,這還是一個(gè)對(duì)計(jì)算任務(wù)進(jìn)行分配的管理問(wèn)題。我相信生態(tài)系統(tǒng)中的不同部分都會(huì)被整合和利用。隨著5G的到來(lái),我們可以更快地接入到云端,從而能更好地在整個(gè)生態(tài)系統(tǒng)中去分配計(jì)算任務(wù)。

問(wèn):Qualcomm在軟件方面已經(jīng)有曠視、商湯等合作伙伴,同時(shí)Qualcomm也在發(fā)展自己的算法,這是否會(huì)與合作伙伴形成競(jìng)爭(zhēng)?

韋靈思:我們開發(fā)自己算法的最重要原因,是為了確保所有算法都可以在驍龍平臺(tái)上高效運(yùn)行。一方面,我們可以通過(guò)開發(fā)自己的算法來(lái)對(duì)系統(tǒng)進(jìn)行壓力測(cè)試,從而啟發(fā)我們對(duì)于下一代硬件系統(tǒng)的開發(fā)。另一方面,有的客戶會(huì)希望我們幫助他們對(duì)其網(wǎng)絡(luò)做壓縮或量化,以適應(yīng)在驍龍平臺(tái)上的運(yùn)行。因?yàn)槲覀円呀?jīng)有了算法開發(fā)的經(jīng)驗(yàn),我們就可以為他們提供很大的幫助??蛻粢部梢赃x擇使用我們開發(fā)的一些算法,主要面向的是一些沒有資源和能力做獨(dú)立算法開發(fā)的客戶。

侯紀(jì)磊:我補(bǔ)充一個(gè)方面。當(dāng)Qualcomm看到一些技術(shù)發(fā)展的趨勢(shì),我們可以通過(guò)自己的一些實(shí)現(xiàn)方式,包括開發(fā)原型機(jī)和技術(shù)展示等,去向業(yè)界展現(xiàn)這些重要的趨勢(shì),同時(shí)影響甚至是引領(lǐng)業(yè)界向某些技術(shù)趨勢(shì)加速發(fā)展。我認(rèn)為這也是我們跟合作伙伴合作的一種方式。

本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點(diǎn),本站亦不保證或承諾內(nèi)容真實(shí)性等。需要轉(zhuǎn)載請(qǐng)聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請(qǐng)及時(shí)聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫?dú)角獸公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

倫敦2024年8月29日 /美通社/ -- 英國(guó)汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認(rèn)證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時(shí)1.5...

關(guān)鍵字: 汽車 人工智能 智能驅(qū)動(dòng) BSP

北京2024年8月28日 /美通社/ -- 越來(lái)越多用戶希望企業(yè)業(yè)務(wù)能7×24不間斷運(yùn)行,同時(shí)企業(yè)卻面臨越來(lái)越多業(yè)務(wù)中斷的風(fēng)險(xiǎn),如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報(bào)道,騰訊和網(wǎng)易近期正在縮減他們對(duì)日本游戲市場(chǎng)的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國(guó)國(guó)際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)開幕式在貴陽(yáng)舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導(dǎo)體

8月28日消息,在2024中國(guó)國(guó)際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語(yǔ)權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機(jī) 衛(wèi)星通信

要點(diǎn): 有效應(yīng)對(duì)環(huán)境變化,經(jīng)營(yíng)業(yè)績(jī)穩(wěn)中有升 落實(shí)提質(zhì)增效舉措,毛利潤(rùn)率延續(xù)升勢(shì) 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長(zhǎng) 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競(jìng)爭(zhēng)力 堅(jiān)持高質(zhì)量發(fā)展策略,塑強(qiáng)核心競(jìng)爭(zhēng)優(yōu)勢(shì)...

關(guān)鍵字: 通信 BSP 電信運(yùn)營(yíng)商 數(shù)字經(jīng)濟(jì)

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺(tái)與中國(guó)電影電視技術(shù)學(xué)會(huì)聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會(huì)上宣布正式成立。 活動(dòng)現(xiàn)場(chǎng) NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長(zhǎng)三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會(huì)上,軟通動(dòng)力信息技術(shù)(集團(tuán))股份有限公司(以下簡(jiǎn)稱"軟通動(dòng)力")與長(zhǎng)三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉
關(guān)閉