蘋果、華為搞起了移動(dòng)AI芯片_開發(fā)者們似乎意見很大
作為一家專注于人工智能產(chǎn)業(yè)的媒體,在麒麟970和蘋果A11剛發(fā)布時(shí)我們也著實(shí)興奮了一陣兒,可如今已經(jīng)過去了一個(gè)多月,除了廠商展示參數(shù)、媒體狂歡之外,我們似乎還沒聽到其他人聲音。
移動(dòng)AI會(huì)給手機(jī)帶來革命性的新體驗(yàn)嗎?類似麒麟970和蘋果A11這樣的芯片,會(huì)成為移動(dòng)AI最重要的驅(qū)動(dòng)者嗎?為了避免落入空談,我們分別采訪了BAT人工智能業(yè)務(wù)部、移動(dòng)端開發(fā)、直播產(chǎn)品、深度學(xué)習(xí)圖像處理四個(gè)業(yè)務(wù)領(lǐng)域的開發(fā)者。想知道在他們眼中,移動(dòng)AI芯片到底是什么模樣。
BAT開發(fā)者:模型優(yōu)勢比端的部署更重要此前我們已經(jīng)討論過,在各種App中可以看到大量云端AI的痕跡,自拍美顏、語音助手,AI已經(jīng)存在于移動(dòng)設(shè)備里??蓪?shí)際情況往往是機(jī)器學(xué)習(xí)開發(fā)者在一端研究算法、處理數(shù)據(jù)、訓(xùn)練模型,而移動(dòng)開發(fā)者在另一端負(fù)責(zé)其他的數(shù)據(jù)結(jié)構(gòu)和編程等等。兩者之間通過一個(gè)云端服務(wù)器連接,除此之外少有交集。
提到移動(dòng)AI時(shí),大部分開發(fā)者考慮的是將模型移植到應(yīng)用程序中,是否會(huì)加大安裝包的大小,是否在每次更新模型時(shí)都需要上傳更新包通過應(yīng)用商店審核。
當(dāng)下很多大企業(yè)對AI的追求幾乎是不計(jì)成本的,加上唾手可得的大量數(shù)據(jù),幾乎要把開發(fā)者們“寵壞”。利用海量數(shù)據(jù)訓(xùn)練出復(fù)雜的模型,時(shí)時(shí)刻刻都在更新模型試圖讓其更加完善。
對于這些大企業(yè)來說,在得到一個(gè)讓自己和行業(yè)都滿意的模型之前,考慮在哪個(gè)端部署似乎有點(diǎn)早。一位來自阿里某智能產(chǎn)品的產(chǎn)品運(yùn)營告訴我們,相比端與端環(huán)境間的比較,他們目前更關(guān)心的是把算法模型打磨得更好。
這無形中也體現(xiàn)了AI發(fā)展的現(xiàn)狀:從算法為主導(dǎo)到以產(chǎn)品為主導(dǎo)的過渡期,在用戶們用腳投票之前,開發(fā)者很難自發(fā)地從一個(gè)開發(fā)環(huán)境遷移到另一個(gè)開發(fā)環(huán)境中。尤其是一些掌握著優(yōu)勢資源的大企業(yè),或許對于他們來說,不安全感來自于算法間的差異,而不是用戶體驗(yàn)上的細(xì)微之處。
歷經(jīng)轉(zhuǎn)型的開發(fā)者:定制AI的無盡可能不過一位曾經(jīng)經(jīng)歷過PC端到移動(dòng)端轉(zhuǎn)型的開發(fā)者提示了我們,移動(dòng)AI或許不僅僅是“離線AI”這么簡單。
在從PC端到移動(dòng)端遷移的過程中,開發(fā)者們發(fā)現(xiàn)不同的設(shè)備中,用戶的行為是有很大差異的。同樣,即使都是移動(dòng)設(shè)備,手機(jī)、平板、智能手表甚至智能音箱等等產(chǎn)品上,用戶的行為依然會(huì)產(chǎn)生很大差異。比如在平板中用戶更傾向于打開視頻,而手機(jī)中用戶更傾向于打開文字信息等等??稍谠贫藶橹鞯闹悄芡扑]算法中,這兩種設(shè)備的數(shù)據(jù)常常被混合在一起處理。
當(dāng)移動(dòng)設(shè)備有了在本地處理的能力,開發(fā)者就可以讓推薦算法更好的匹配不同設(shè)備。以目前蘋果A11和麒麟970公布的參數(shù)看來,將智能推薦這類本身就依托于網(wǎng)絡(luò)的算法完全移植到移動(dòng)端本地,其實(shí)意義不大,但把云端推理結(jié)果放到移動(dòng)端本地再次處理,會(huì)得到很不一樣的用戶體驗(yàn)。
這也意味著算法有可能和設(shè)備,并且進(jìn)一步和個(gè)人用戶更好地結(jié)合起來。通過移動(dòng)設(shè)備豐富的感知能力,地理位置、天氣、光線、使用時(shí)長、用戶行程安排,甚至體溫心率等等原本無法輕易獲取的數(shù)據(jù),都可以通過本地計(jì)算結(jié)合到已有的算法模型之中。在擁有移動(dòng)AI的未來,外賣App會(huì)在下雨天把你最愛的火鍋排到推薦流前列,而在公司時(shí)則把送餐速度最快的餐品排到前列。
總之,從開發(fā)者的角度來看,移動(dòng)AI最大的價(jià)值是在于把原本的“通用AI”變成“定制AI”。
遷移實(shí)操開發(fā)者:移動(dòng)AI需要更統(tǒng)一的編程環(huán)境
“定制AI”的概念雖然迷人,但真到了開發(fā)的實(shí)操階段,卻不像想象中那么容易。
一位就職于直播平臺(tái)的資深PE工程師告訴我們,目前移動(dòng)端GPU/AI芯片還是一個(gè)較新的概念,API接口較混亂,缺乏編程和計(jì)算方式的統(tǒng)一。
就以現(xiàn)在來看,蘋果A11只把GPU能力開放給了CoreML一個(gè)框架,而目前大多數(shù)開發(fā)者采用的都是Tensorflow、Caffe等主流框架。這無疑給未來的遷移造成了影響:開發(fā)者究竟要在原有框架上進(jìn)行“閹割”,還是在CoreML上重新編程?
如果廠商提供較高的抽象層,移動(dòng)AI開發(fā)者只能一個(gè)個(gè)去配適硬件抽象層。要是廠商傾向于提供底層抽象,就可以由更高層次的抽象屏蔽差異,從而提高開發(fā)效率。
尤其是對于Android這類本身生態(tài)就比較混亂的系統(tǒng),開發(fā)者很可能受到更多阻礙。
以目前通用的CPU為先例,不同廠商的功耗和發(fā)熱控制邏輯不同。同樣的神經(jīng)網(wǎng)絡(luò),在某一廠商的CPU上可能跑得很順暢,而在另一家廠商的CPU上可能就會(huì)觸發(fā)過熱保護(hù)降頻,最終導(dǎo)致神經(jīng)網(wǎng)絡(luò)的計(jì)算性能有劇烈的波動(dòng)。
所以大部分開發(fā)者只敢在產(chǎn)品中嵌入一些計(jì)算量比較小的網(wǎng)絡(luò),或者是調(diào)用頻率比較低的功能,無法選擇在持續(xù)功能里用復(fù)發(fā)神經(jīng)網(wǎng)絡(luò)。
深度學(xué)習(xí)開發(fā)者:芯片僅僅是移動(dòng)AI的開始
對于用戶而言,移動(dòng)AI芯片的出現(xiàn)意味著可以在終端上獲得更好的產(chǎn)品體驗(yàn),可對于開發(fā)者來說,移動(dòng)AI卻不能靠芯片一蹴而就。
我們采訪了有著中國版Prisma之稱的深黑科技,其CEO Jason告訴我們,目前大多數(shù)移動(dòng)AI芯片在機(jī)器學(xué)習(xí)做了較為普適性的優(yōu)化,而對一些特定的計(jì)算方式則沒有進(jìn)行太多優(yōu)化。比如深度學(xué)習(xí)中需要的卷積計(jì)算,當(dāng)前更適合部署在云端。
并且在計(jì)劃從云端到終端的遷移時(shí),開發(fā)者還會(huì)受制于原本的框架。像Tensorflow就很容易支持iOS和Android上的部署,讓遷移變得更加容易??上馛affe、Torch這樣基于小團(tuán)隊(duì)的框架,在產(chǎn)品化上相對乏力,目前還無法幫助開發(fā)者將代碼遷移到兩個(gè)移動(dòng)端。這也給了Tensorflow更多的優(yōu)勢,尤其是在消費(fèi)級應(yīng)用之上。
移動(dòng)AI芯片不能解決所有問題,但很多團(tuán)隊(duì)正在試圖從軟件方面加速移動(dòng)AI的部署。在今年剛剛拿到融資的美國西雅圖的AI創(chuàng)業(yè)公司xnor.ai,他們利用二值化神經(jīng)網(wǎng)絡(luò)減小神經(jīng)網(wǎng)絡(luò)模型的儲(chǔ)存大小,從而加快運(yùn)算速度、降低計(jì)算成本。最終實(shí)現(xiàn)不依賴網(wǎng)絡(luò),在嵌入式設(shè)備中部署深度學(xué)習(xí)模型。
硬件的出現(xiàn),只是移動(dòng)AI生態(tài)的一塊基石。進(jìn)入業(yè)務(wù)層面,還要考慮API配適、軟件優(yōu)化,甚至未來可能出現(xiàn)的5G網(wǎng)絡(luò)等等。
所以,移動(dòng)AI芯片沒什么用處?
和開發(fā)者們交流過后,我們開始思考:對于他們而言,移動(dòng)AI芯片的出現(xiàn)到底意味著什么?雖然硬件的出現(xiàn)不代表立刻建立起生態(tài)圈,但手機(jī)廠商對移動(dòng)AI的押注無疑給了大多數(shù)開發(fā)者信心,讓更多人加入這一領(lǐng)域。
更重要的是,移動(dòng)AI芯片給了開發(fā)者推出輕量級產(chǎn)品的可能不必?fù)?dān)心云計(jì)算資源的使用資費(fèi)、也不必?fù)?dān)心用戶量增長帶來的服務(wù)器宕機(jī)??梢哉f移動(dòng)AI芯片的出現(xiàn)降低了消費(fèi)級AI應(yīng)用的準(zhǔn)入門檻。
回到兩款移動(dòng)AI芯片上。蘋果A11性能上的弱勢不明顯,可僅僅把GPU能力開放給CoreML和Metal 2(一款應(yīng)用于游戲的圖形處理軟件)的做法明顯降低了很多開發(fā)者的熱情。這樣的做法進(jìn)一步鞏固了iOS生態(tài)的完整和穩(wěn)定,但更適用于高門檻定制化開發(fā)。
蘋果這樣的選擇雖然挑不出錯(cuò),但也很難心悅誠服地說是正確的。畢竟“完整穩(wěn)定”和“畫地自限”的區(qū)別只在一線之間。相對而言,如果麒麟970可以率先向更多框架和軟件開放NPU算力,想必也會(huì)吸引更多的開發(fā)者。
當(dāng)然,每個(gè)開發(fā)者寫下自己第一行代碼時(shí),想到的絕不是去紐交所敲鐘,而是憑著天生的好奇,第一次嘗試和一個(gè)未知的世界對話。如果移動(dòng)AI芯片可以讓開發(fā)者們暫時(shí)放下無休止的需求,用第一次寫代碼時(shí)的熱情去探索移動(dòng)AI,不管對于芯片廠商還是人工智能產(chǎn)業(yè)而言,都是彌足珍貴的收獲。
或許這正是移動(dòng)AI芯片的最大意義:硬件不能解決一切問題,但可以讓更多的開發(fā)者參與其中。