充足的算力資源，在數(shù)據(jù)量持續(xù)增長及算法持續(xù)復(fù)雜化的前提下，無疑是保障人工智能應(yīng)用落地效果的關(guān)鍵。

軟件定義算力——打造AI轉(zhuǎn)型最佳實(shí)踐

8月2日，第四范式聯(lián)合英特爾共同舉辦了AI實(shí)踐者之聲夏令營活動(dòng)。第四范式基礎(chǔ)架構(gòu)負(fù)責(zé)人劉一鳴以《軟件定義算力——打造AI轉(zhuǎn)型最佳實(shí)踐》為題做了演講，他指出，不管是圍繞專家規(guī)則構(gòu)建AI系統(tǒng)，還是圍繞AutoML技術(shù)構(gòu)建應(yīng)用系統(tǒng)，都將帶來算力的巨大需求。

具體而言，挑戰(zhàn)在于數(shù)據(jù)量越來越大，但模型效果沒有多大提升，這就需要做高維復(fù)雜的模型。其次，數(shù)據(jù)的價(jià)值是隨著時(shí)間的增加而遞減，比如情報(bào)資料知道的越早越容易做出決策。

其中的關(guān)鍵是要讓AI釋放算力達(dá)到極致效果，這就需要基礎(chǔ)架構(gòu)提供算力。為此，第四范式首先做了自研的機(jī)器學(xué)習(xí)框架，現(xiàn)在模型越來越深，此外他們還自研了整個(gè)軟件棧，每一層都做了精細(xì)優(yōu)化，并且與硬件進(jìn)行結(jié)合。

通過與AI行業(yè)核心基礎(chǔ)設(shè)施技術(shù)提供商英特爾公司的深度合作，第四范式AIO引入英特爾®Cascade，Optane固態(tài)硬盤等技術(shù)，擁有了更充沛的算力，進(jìn)一步加速了企業(yè)實(shí)施AI應(yīng)用的進(jìn)程。

在AI數(shù)據(jù)處理能力上，結(jié)合英特爾®Cascade Lake CPU與第四范式軟硬一體的優(yōu)化，先知AI平臺(tái)分布式模型訓(xùn)練框架訓(xùn)練速度獲得飛躍。在TB級(jí)數(shù)據(jù)規(guī)模下，“第四范式先知”平臺(tái)的模型訓(xùn)練速度可達(dá)Spark*的數(shù)千倍。英特爾®Optane固態(tài)盤則是“第四范式先知”平臺(tái)引入的另一項(xiàng)英特爾 “殺手锏”，其3D XPoint™ 技術(shù)，正在打破內(nèi)存和固態(tài)盤之間的邊界。

最后，劉一鳴表示，第四范式的最終目標(biāo)是端到端的機(jī)器學(xué)習(xí)，其軟硬一體的企業(yè)級(jí)AI平臺(tái)就是為了讓AI的價(jià)值快速落地，所以不管是網(wǎng)絡(luò)、存儲(chǔ)還是計(jì)算，他們要讓全流程至少比起普通的機(jī)器快四到十倍。

軟硬協(xié)同——突破產(chǎn)品性能瓶頸

作為硬件平臺(tái)的重要合作方，英特爾為第四范式提供性能強(qiáng)勁的至強(qiáng)®處理器和數(shù)據(jù)中心級(jí)持久化內(nèi)存硬件平臺(tái), 同時(shí)為第四范式業(yè)務(wù)更好的協(xié)同硬件工作而提供了一系列的優(yōu)化工具和方法，幫助企業(yè)軟件協(xié)同硬件，更好的發(fā)揮硬件的性能潛力，打破產(chǎn)品性能瓶頸，助推第四范式“1+N”智能化轉(zhuǎn)型。

此次夏令營活動(dòng)上，英特爾AI方案架構(gòu)師趙玉萍和英特爾軟件工程師吳國安以《軟硬協(xié)同——突破產(chǎn)品性能瓶頸》為題講述了系統(tǒng)性能的優(yōu)化方法以及性能優(yōu)化的結(jié)果。

系統(tǒng)性能的優(yōu)化方法主要三種：

第一種是資源分析方法，主要包括USE的方法，也就是檢測使用率、飽和、錯(cuò)誤，還有資源縮放的方法。

第二種是微架構(gòu)自下而上分析方法，主要是分析CPU微架構(gòu)的使用情況，包括前端受限、后端受限或者錯(cuò)誤預(yù)測以及等待卸貨的比例，各個(gè)比例是怎么樣，這主要是為了更高效地使用CPU執(zhí)行單元。

第三種是代碼和熱點(diǎn)優(yōu)化方法，主要是包括熱點(diǎn)檢測，并發(fā)和鎖分析，以及如何使代碼特別對(duì)于AI的代碼進(jìn)行向量化、減少內(nèi)部布局和多線程并發(fā)。

這三種方法是從總體到細(xì)節(jié)這樣一個(gè)優(yōu)化過程，同時(shí)三種方法不停地循環(huán)往復(fù)推動(dòng)整個(gè)系統(tǒng)的性能提升。

吳國安還介紹了英特爾傲騰數(shù)據(jù)中心級(jí)持久內(nèi)存應(yīng)用方法。傲騰數(shù)據(jù)中心級(jí)持久化內(nèi)存與正常內(nèi)存共享內(nèi)存控制器和內(nèi)存通道，主要有三大特點(diǎn)： 擴(kuò)展大內(nèi)存，也就是可以存放或者緩存更多，不需要做任何代碼上的改動(dòng)，非常簡單易用;內(nèi)存持久化，需要應(yīng)用做一些改動(dòng)，可以實(shí)現(xiàn)一些高可用場景;快速存儲(chǔ)設(shè)備，可以減少I/O受限，簡單易用，但由于做快速存儲(chǔ)設(shè)備優(yōu)勢不那么明顯，目前還沒有找到合適場景。

走進(jìn)南京大學(xué)——AI實(shí)踐者之聲夏令營活動(dòng)招募

8月31日，由英特爾發(fā)起的 AI實(shí)踐者之聲夏令營來到南京大學(xué)，該技術(shù)沙龍旨在打破技術(shù)理論、產(chǎn)品、場景邊界，促進(jìn)人工智能規(guī)模化落地。

眾所周知，在實(shí)現(xiàn)智能化轉(zhuǎn)型的道路上，各行業(yè)企業(yè)面臨著海量數(shù)據(jù)處理、機(jī)器學(xué)習(xí)和深度學(xué)習(xí)技術(shù)支撐、高昂計(jì)算成本以及技術(shù)人才緊缺帶來的挑戰(zhàn)。企業(yè)一直在尋求可以不斷提高效率、降低成本的生產(chǎn)線，這就需要開發(fā)者不斷增長技能，緊跟技術(shù)發(fā)展，幫助企業(yè)解決工程實(shí)踐中的挑戰(zhàn)。

此次AI實(shí)踐者之聲夏令營活動(dòng)一如既往有重磅演講嘉賓蒞臨，分別是南京大學(xué)人工智能學(xué)院教授俞揚(yáng)教授、英特爾(中國)人工智能行業(yè)客戶總監(jiān)孫宇以及創(chuàng)新工場南京國際人工智能研究院執(zhí)行院長馮霽。