看著人工智能技術(shù)如此火爆，在這方面的船業(yè)者也是層出不窮。然而，在學(xué)習(xí)的過(guò)程中就遇到了一對(duì)雙胞胎機(jī)器學(xué)習(xí)和深度學(xué)習(xí)，是不是還在傻傻的分不清啊，其實(shí)他們區(qū)別大著呢。

　　為了展示他們的火熱程度，我在 Google trend 上搜索了這些關(guān)鍵字：

　　如果你想讓自己弄清楚機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的區(qū)別，請(qǐng)閱讀本篇文章，我將用通俗易懂的語(yǔ)言為你介紹他們之間的差別。下文詳細(xì)解釋了機(jī)器學(xué)習(xí)和深度學(xué)習(xí)中的術(shù)語(yǔ)。并且，我比較了他們兩者的不同，別說(shuō)明了他們各自的使用場(chǎng)景。

　　什么是機(jī)器學(xué)習(xí)和深度學(xué)習(xí)？

　　讓我們從基礎(chǔ)知識(shí)開始：什么是機(jī)器學(xué)習(xí)？和什么是深度學(xué)習(xí)？如果你對(duì)此已有所了解，隨時(shí)可以跳過(guò)本部分。

　　一言以蔽之，由 Tom Mitchell 給出的被廣泛引用的機(jī)器學(xué)習(xí)的定義給出了最佳解釋。下面是其中的內(nèi)容：

　　“計(jì)算機(jī)程序可以在給定某種類別的任務(wù) T 和性能度量 P 下學(xué)習(xí)經(jīng)驗(yàn) E ，如果其在任務(wù) T 中的性能恰好可以用 P 度量，則隨著經(jīng)驗(yàn) E 而提高。”

　　是不是讀起來(lái)很繞口呢？讓我們用簡(jiǎn)單的例子來(lái)分解下這個(gè)描述。

　　示例 1：機(jī)器學(xué)習(xí)和根據(jù)人的身高估算體重

　　假設(shè)你想創(chuàng)建一個(gè)能夠根據(jù)人的身高估算體重的系統(tǒng)（也許你出自某些理由對(duì)這件事情感興趣）。那么你可以使用機(jī)器學(xué)習(xí)去找出任何可能的錯(cuò)誤和數(shù)據(jù)捕獲中的錯(cuò)誤，首先你需要收集一些數(shù)據(jù)，讓我們來(lái)看看你的數(shù)據(jù)是什么樣子的：

　　圖中的每一個(gè)點(diǎn)對(duì)應(yīng)一個(gè)數(shù)據(jù)，我們可以畫出一條簡(jiǎn)單的斜線來(lái)預(yù)測(cè)基于身高的體重

　　例如這條斜線：

　　Weight （in kg） = Height （in cm） - 100

　　。。。這些斜線能幫助我們作出預(yù)測(cè)，盡管這些斜線表現(xiàn)得很棒，但是我們需要理解它是怎么表現(xiàn)的，我們希望去減少預(yù)測(cè)和實(shí)際之間的誤差，這也是衡量其性能的方法。

　　深遠(yuǎn)一點(diǎn)地說(shuō)，我們收集更多的數(shù)據(jù) （experience），模型就會(huì)變得更好。我們也可以通過(guò)添加更多變量（例如性別）和添加不同的預(yù)測(cè)斜線來(lái)完善我們的模型。

　　示例2：颶風(fēng)預(yù)測(cè)系統(tǒng)

　　我們找一個(gè)復(fù)雜一點(diǎn)的例子。假如你要構(gòu)建一個(gè) 颶風(fēng)預(yù)測(cè)系統(tǒng) 。假設(shè)你手里有所有以前發(fā)生過(guò)的颶風(fēng)的數(shù)據(jù)和這次颶風(fēng)產(chǎn)生前三個(gè)月的天氣信息。

　　如果要手動(dòng)構(gòu)建一個(gè)颶風(fēng)預(yù)測(cè)系統(tǒng)，我們應(yīng)該怎么做？

　　首先我們的任務(wù)是清洗所有的數(shù)據(jù)找到數(shù)據(jù)里面的模式進(jìn)而查找產(chǎn)生颶風(fēng)的條件。

　　我們既可以將模型條件數(shù)據(jù)（例如氣溫高于40度，濕度在80-100等）輸入到我們的系統(tǒng)里面生成輸出;也可以讓我們的系統(tǒng)自己通過(guò)這些條件數(shù)據(jù)產(chǎn)生合適的輸出。

　　我們可以把所有以前的數(shù)據(jù)輸入到系統(tǒng)里面來(lái)預(yù)測(cè)未來(lái)是否會(huì)有颶風(fēng)?；谖覀兿到y(tǒng)條件的取值，評(píng)估系統(tǒng)的性能（系統(tǒng)正確預(yù)測(cè)颶風(fēng)的次數(shù)）。我們可以將系統(tǒng)預(yù)測(cè)結(jié)果作為反饋繼續(xù)多次迭代以上步驟。

　　讓我們根據(jù)前邊的解釋來(lái)定義我們的預(yù)測(cè)系統(tǒng)：我們的任務(wù)是確定可能產(chǎn)生颶風(fēng)的氣象條件。性能P是在系統(tǒng)所有給定的條件下有多少次正確預(yù)測(cè)颶風(fēng)。經(jīng)驗(yàn)E是我們的系統(tǒng)的迭代次數(shù)。

　　深度學(xué)習(xí)的概念并不新穎。它已經(jīng)存在好幾年了。但伴隨著現(xiàn)有的所有的炒作，深度的學(xué)習(xí)越來(lái)越受到重視。正如我們?cè)跈C(jī)器學(xué)習(xí)中所做的那樣，先來(lái)看看深度學(xué)習(xí)的 官方定義 ，然后用一個(gè)例子來(lái)解釋。

　　“深度學(xué)習(xí)是一種特殊的機(jī)器學(xué)習(xí)，通過(guò)學(xué)習(xí)將世界使用嵌套的概念層次來(lái)表示并實(shí)現(xiàn)巨大的功能和靈活性，其中每個(gè)概念都定義為與簡(jiǎn)單概念相關(guān)聯(lián)，而更為抽象的表示則以較不抽象的方式來(lái)計(jì)算。”

　　這也有點(diǎn)讓人混亂。下面使用一個(gè)簡(jiǎn)單示例來(lái)分解下此概念。

　　示例1： 形狀檢測(cè)

　　先從一個(gè)簡(jiǎn)單的例子開始，從概念層面上解釋究竟發(fā)生了什么的事情。我們來(lái)試試看如何從其他形狀中識(shí)別的正方形。

　　我們眼中的第一件事是檢查圖中是否有四條的線（簡(jiǎn)單的概念）。如果我們找到這樣的四條線，我們進(jìn)一步檢查它們是相連的、閉合的和相互垂直的，并且它們是否是相等的（嵌套的概念層次結(jié)構(gòu)）。

　　所以，我們完成了一個(gè)復(fù)雜的任務(wù)（識(shí)別一個(gè)正方形），并以簡(jiǎn)單、不太抽象的任務(wù)來(lái)完成它。深度學(xué)習(xí)本質(zhì)上在大規(guī)模執(zhí)行類似邏輯。

　　示例2： 貓 vs. 狗

　　我們舉一個(gè)動(dòng)物辨識(shí)的例子，其中我們的系統(tǒng)必須識(shí)別給定的圖像中的動(dòng)物是貓還是狗。

　　機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的對(duì)比

　　現(xiàn)在的你應(yīng)該已經(jīng)對(duì)機(jī)器學(xué)習(xí)和深度學(xué)習(xí)有所了解，接下來(lái)我們將會(huì)學(xué)習(xí)其中一些重點(diǎn)，并比較兩種技術(shù)。

　　數(shù)據(jù)依賴性

　　深度學(xué)習(xí)與傳統(tǒng)的機(jī)器學(xué)習(xí)最主要的區(qū)別在于隨著數(shù)據(jù)規(guī)模的增加其性能也不斷增長(zhǎng)。當(dāng)數(shù)據(jù)很少時(shí)，深度學(xué)習(xí)算法的性能并不好。這是因?yàn)樯疃葘W(xué)習(xí)算法需要大量的數(shù)據(jù)來(lái)完美地理解它。另一方面，在這種情況下，傳統(tǒng)的機(jī)器學(xué)習(xí)算法使用制定的規(guī)則，性能會(huì)比較好。下圖總結(jié)了這一事實(shí)。

　　硬件依賴

　　深度學(xué)習(xí)算法需要進(jìn)行大量的矩陣運(yùn)算，GPU 主要用來(lái)高效優(yōu)化矩陣運(yùn)算，所以 GPU 是深度學(xué)習(xí)正常工作的必須硬件。與傳統(tǒng)機(jī)器學(xué)習(xí)算法相比，深度學(xué)習(xí)更依賴安裝 GPU 的高端機(jī)器。

　　特征處理

　　特征處理 是將領(lǐng)域知識(shí)放入特征提取器里面來(lái)減少數(shù)據(jù)的復(fù)雜度并生成使學(xué)習(xí)算法工作的更好的模式的過(guò)程。特征處理過(guò)程很耗時(shí)而且需要專業(yè)知識(shí)。

　　在機(jī)器學(xué)習(xí)中，大多數(shù)應(yīng)用的特征都需要專家確定然后編碼為一種數(shù)據(jù)類型。

　　特征可以使像素值、形狀、紋理、位置和方向。大多數(shù)機(jī)器學(xué)習(xí)算法的性能依賴于所提取的特征的準(zhǔn)確度。

　　深度學(xué)習(xí)嘗試從數(shù)據(jù)中直接獲取高等級(jí)的特征，這是深度學(xué)習(xí)與傳統(tǒng)機(jī)器學(xué)習(xí)算法的主要的不同?；诖?，深度學(xué)習(xí)削減了對(duì)每一個(gè)問(wèn)題設(shè)計(jì)特征提取器的工作。例如， 卷積神經(jīng)網(wǎng)絡(luò) 嘗試在前邊的層學(xué)習(xí)低等級(jí)的特征（邊界，線條），然后學(xué)習(xí)部分人臉，然后是高級(jí)的人臉的描述。更多信息可以閱讀 神經(jīng)網(wǎng)絡(luò)機(jī)器在深度學(xué)習(xí)里面的有趣應(yīng)用 。

　　當(dāng)應(yīng)用傳統(tǒng)機(jī)器學(xué)習(xí)算法解決問(wèn)題的時(shí)候，傳統(tǒng)機(jī)器學(xué)習(xí)通常會(huì)將問(wèn)題分解為多個(gè)子問(wèn)題并逐個(gè)子問(wèn)題解決最后結(jié)合所有子問(wèn)題的結(jié)果獲得最終結(jié)果。相反，深度學(xué)習(xí)提倡直接的端到端的解決問(wèn)題。

　　舉例說(shuō)明：

　　假設(shè)有一個(gè) 多物體檢測(cè) 的任務(wù)需要圖像中的物體的類型和各物體在圖像中的位置。

　　傳統(tǒng)機(jī)器學(xué)會(huì)將問(wèn)題分解為兩步：物體檢測(cè)和物體識(shí)別。首先，使用一個(gè)邊界框檢測(cè)算法掃描整張圖片找到可能的是物體的區(qū)域;然后使用物體識(shí)別算法（例如 SVM 結(jié)合 HOG ）對(duì)上一步檢測(cè)出來(lái)的物體進(jìn)行識(shí)別。

　　相反，深度學(xué)習(xí)會(huì)直接將輸入數(shù)據(jù)進(jìn)行運(yùn)算得到輸出結(jié)果。例如可以直接將圖片傳給 YOLO 網(wǎng)絡(luò) （一種深度學(xué)習(xí)算法），YOLO 網(wǎng)絡(luò)會(huì)給出圖片中的物體和名稱。

　　執(zhí)行時(shí)間

　　通常情況下，訓(xùn)練一個(gè)深度學(xué)習(xí)算法需要很長(zhǎng)的時(shí)間。這是因?yàn)樯疃葘W(xué)習(xí)算法中參數(shù)很多，因此訓(xùn)練算法需要消耗更長(zhǎng)的時(shí)間。最先進(jìn)的 深度學(xué)習(xí)算法 ResNet 完整地訓(xùn)練一次需要消耗兩周的時(shí)間，而機(jī)器學(xué)習(xí)的訓(xùn)練會(huì)消耗 的時(shí)間 相對(duì)較少，只需要幾秒鐘到幾小時(shí)的時(shí)間。

　　但兩者測(cè)試的時(shí)間上是完全相反。深度學(xué)習(xí)算法在測(cè)試時(shí)只需要很少的時(shí)間去運(yùn)行。如果跟 k-nearest neighbors （一種機(jī)器學(xué)習(xí)算法）相比較，測(cè)試時(shí)間會(huì)隨著數(shù)據(jù)量的提升而增加。不過(guò)這不適用于所有的機(jī)器學(xué)習(xí)算法，因?yàn)橛行C(jī)器學(xué)習(xí)算法的測(cè)試時(shí)間也很短。

　　可解釋性

　　至關(guān)重要的一點(diǎn)，我們把可解釋性作為比較機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的一個(gè)因素。

　　我們看個(gè)例子。假設(shè)我們適用深度學(xué)習(xí)去自動(dòng)為文章評(píng)分。深度學(xué)習(xí)可以達(dá)到接近人的標(biāo)準(zhǔn)，這是相當(dāng)驚人的性能表現(xiàn)。但是這仍然有個(gè)問(wèn)題。深度學(xué)習(xí)算法不會(huì)告訴你為什么它會(huì)給出這個(gè)分?jǐn)?shù)。當(dāng)然，在數(shù)學(xué)的角度上，你可以找出來(lái)哪一個(gè)深度神經(jīng)網(wǎng)絡(luò)節(jié)點(diǎn)被激活了。但是我們不知道神經(jīng)元應(yīng)該是什么模型，我們也不知道這些神經(jīng)單元層要共同做什么。所以無(wú)法解釋結(jié)果是如何產(chǎn)生的。

　　另一方面，為了解釋為什么算法這樣選擇，像決策樹（ decision trees ）這樣機(jī)器學(xué)習(xí)算法給出了明確的規(guī)則，所以解釋決策背后的推理是很容易的。因此，決策樹和線性/ 邏輯回歸 這樣的算法主要用于工業(yè)上的可解釋性。