新智元導(dǎo)讀：LeCun曾在演講中提到，2016年深度學(xué)習(xí)領(lǐng)域最讓他興奮的技術(shù)莫過(guò)于對(duì)抗學(xué)習(xí)，而無(wú)監(jiān)督學(xué)習(xí)一直都是人工智能研究者孜孜追求的“終極目標(biāo)”之一。MIT 計(jì)算機(jī)科學(xué)和人工智能實(shí)驗(yàn)室的研究員們?cè)诒灸甓鹊腘IPS上提交了結(jié)合對(duì)抗學(xué)習(xí)和無(wú)監(jiān)督學(xué)習(xí)兩種方法的研究——讓計(jì)算機(jī)在觀看了200萬(wàn)條視頻后自動(dòng)“創(chuàng)作”視頻內(nèi)容，結(jié)果非常逼真。研究所開(kāi)發(fā)的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)也可以直接用到現(xiàn)有的圖片和視頻中，把靜態(tài)圖片變成動(dòng)態(tài)視頻，并且對(duì)人類的動(dòng)作具有一定的判斷和預(yù)測(cè)能力。

MIT 計(jì)算機(jī)科學(xué)和人工智能實(shí)驗(yàn)室(CSAIL) 的研究員開(kāi)發(fā)了一個(gè)深度學(xué)習(xí)算法，能夠自動(dòng)生成視頻，并預(yù)測(cè)出接下來(lái)的視頻內(nèi)容。

研究成果論文將在下周在巴塞羅那舉行的 NIPS ( Conference on Neural Information Processing Systems )上發(fā)表。CSAIL 的研究團(tuán)隊(duì)讓該算法觀看了200萬(wàn)條視頻，這些視頻加起來(lái)如果要回放的話，需要2年的時(shí)間才能播完。

視頻包含了日常生活的常見(jiàn)場(chǎng)景，以讓機(jī)器更好地適應(yīng)正常的人類交流行為。更重要的是，這些視頻是“野生”的，也就是說(shuō)，它們都是非標(biāo)簽的。簡(jiǎn)單地說(shuō)，就是研究員不會(huì)給算法提供理解視頻內(nèi)容的任何線索。

在這一視頻數(shù)據(jù)集的基礎(chǔ)上，算法將基于200萬(wàn)條視頻中獲得的觀察，嘗試從零開(kāi)始生成視頻，這和人類創(chuàng)作視頻的步驟是一樣的 。隨后，生成的視頻會(huì)被填入另一個(gè)深度學(xué)習(xí)算法中，新的算法負(fù)責(zé)判斷哪些視頻是機(jī)器生成的，哪些是“真實(shí)”的。這種訓(xùn)練機(jī)器的方法叫對(duì)抗式學(xué)習(xí)(adversarial learning)。

研究使用的神經(jīng)網(wǎng)絡(luò)工作原理

計(jì)算機(jī)視覺(jué)研究領(lǐng)域中，許多研究者都在攻克類似的問(wèn)題，其中就包括MIT的教授 Bill Freeman，他在”視覺(jué)動(dòng)態(tài)“(visual dynamics)領(lǐng)域的工作也能提前創(chuàng)造出視頻中下一幀。但是，他的模型聚焦于推斷性的視頻，Torralba 的視頻能夠生成全新的視頻，這些視頻內(nèi)容此前是從未講過(guò)的。

圖來(lái)自 ： Carl Vondrick， MIT CSAIL

此前的系統(tǒng)都是一幀一幀地創(chuàng)建場(chǎng)景，這會(huì)帶來(lái)巨大的失誤概率，這項(xiàng)研究聚焦于一次處理整個(gè)場(chǎng)景，算法每秒生成32幀圖像。”一幀一幀地創(chuàng)建場(chǎng)景，意味著信息是被分成很多塊的“，Vondrick 說(shuō)，”我們采用同時(shí)預(yù)測(cè)所有幀的方法。“

當(dāng)然，一次生成所有的幀也有缺點(diǎn)：在變得更精確的同時(shí)，長(zhǎng)視頻中的計(jì)算機(jī)模型會(huì)變得更加復(fù)雜。

為了創(chuàng)建出多幀的效果，研究者教會(huì)模型在不受背景的影響下生成前景，然后，把對(duì)象放到場(chǎng)景中，讓模型學(xué)習(xí)哪一個(gè)物體是移動(dòng)的，哪一個(gè)不動(dòng)。團(tuán)隊(duì)使用了”對(duì)抗學(xué)習(xí)“的方法，在多次嘗試后，生成器學(xué)會(huì)如何”欺騙“區(qū)分器(discriminator)。

“雙流架構(gòu)”，生成視頻更逼真

”在這一模型的早期原型中，我們的發(fā)現(xiàn)是，生成器(也就是神經(jīng)網(wǎng)絡(luò))會(huì)改變背景或者在背景中加入異常的動(dòng)態(tài)圖片，來(lái)嘗試欺騙其他的網(wǎng)絡(luò)“，CSAIL 博士候選人、論文第一作者Carl Vondrick說(shuō)，”我們需要告訴模型一個(gè)概念，那就是現(xiàn)實(shí)世界在大多數(shù)情況下都是靜態(tài)的。“

為了改正這一問(wèn)題，Vondrick 和他的同事創(chuàng)造了一個(gè)“雙流架構(gòu)”(two-stream architecture)，這一架構(gòu)會(huì)強(qiáng)迫生成的網(wǎng)絡(luò)在前景中的對(duì)象移動(dòng)時(shí)，對(duì)靜態(tài)的背景進(jìn)行渲染。

這種”雙流架構(gòu)“模型生成許多更加逼真的視頻。算法生成的視頻是64X64分辨率的，包含了32幀(標(biāo)準(zhǔn)的電影是每秒24幀，這意味著算法生成的視頻有1秒~1.5秒)，視頻描繪的內(nèi)容包括沙灘、火車站以及新生兒的臉(下圖，這相當(dāng)嚇人)。

雖然聽(tīng)起來(lái)從零開(kāi)始生成幾秒的視頻并沒(méi)有多了不起，但是這比起此前的研究已經(jīng)有了顯著的進(jìn)步，此前使用深度學(xué)習(xí)框架，只能生成一個(gè)視頻中的幾幀，并且在內(nèi)容上，也會(huì)受到更為嚴(yán)格的參數(shù)限制。

讓機(jī)器生成視頻遇到的一個(gè)主要難點(diǎn)在于，視頻中的物體是動(dòng)態(tài)的，特別是人物，常常被渲染成模糊的一團(tuán)，雖然研究者都在堅(jiān)持：”我們的模型有潛力生成非常好的動(dòng)態(tài)場(chǎng)景“。

確實(shí)，這種場(chǎng)景是非常值得贊嘆的。研究者向亞馬遜的 Mechanical Turk 的工作人員展示了一段由機(jī)器生成的視頻和原來(lái)”真“的視頻，向他們求證哪一段視頻更為真實(shí)，結(jié)果，有20%的人選擇了機(jī)器生成的視頻。

團(tuán)隊(duì)采用了兩個(gè)神經(jīng)網(wǎng)絡(luò)，互相對(duì)抗，其中一個(gè)嘗試欺騙另一個(gè)，讓它認(rèn)為自己生成的視頻是”真“的。圖：MIT CSAIL

除了生成原始視頻，這一研究另一個(gè)亮眼的成果是能在已有的視頻和照片上進(jìn)行應(yīng)用。當(dāng)研究者把深度學(xué)習(xí)算法應(yīng)用到一個(gè)靜態(tài)的幀中，算法就能夠識(shí)別出照片中的物體，把它們制作成32幀的動(dòng)圖，生成”非常合乎常理“的動(dòng)作。Vondrick說(shuō)，根據(jù)自己的了解，這是首次實(shí)現(xiàn)讓機(jī)器從靜態(tài)圖片中生成多幀的視頻。

這種預(yù)測(cè)對(duì)象或人的運(yùn)動(dòng)的能力對(duì)于未來(lái)機(jī)器融入現(xiàn)實(shí)世界是至關(guān)重要的，因?yàn)檫@將允許機(jī)器不采取可能傷害人的動(dòng)作，或者幫助人們不傷害自己。根據(jù)Vondrick的說(shuō)法，這一研究成果對(duì)無(wú)人監(jiān)督的機(jī)器學(xué)習(xí)也有促進(jìn)作用，因?yàn)檫@種類型的機(jī)器視覺(jué)算法接收的是來(lái)自未標(biāo)記視頻的所有輸入數(shù)據(jù)。

如果機(jī)器真的想要善于識(shí)別和分類對(duì)象，它們將需要能夠在沒(méi)有標(biāo)簽數(shù)據(jù)的情況下這樣做。

但是對(duì)于Vondrick來(lái)說(shuō)，他的研究中最令人興奮的可能性之一卻跟科學(xué)或現(xiàn)實(shí)世界沒(méi)什么關(guān)系。他純粹是想讓機(jī)器創(chuàng)作一段視頻。

”從某種程度上來(lái)說(shuō)，我對(duì)讓機(jī)器自己創(chuàng)作一段視頻或者電視節(jié)目非常癡迷“，Vondrick 說(shuō)，“我們只生成了一秒鐘的視頻，但隨著我們的進(jìn)步，也許可以生成幾分鐘的視頻，講一個(gè)連貫的故事。我們現(xiàn)在還做不到，但我認(rèn)為我們邁出了第一步。