神經(jīng)網(wǎng)絡進化能否改變機器學習
神經(jīng)網(wǎng)絡進化通過篩選人工神經(jīng)網(wǎng)絡中的神經(jīng)通路來模擬自然進化。神經(jīng)進化將進化算法和人工神經(jīng)網(wǎng)絡結合起來,能像類似于地球上大腦進化的方式來訓練系統(tǒng)。
許多與機器學習相關的概念已經(jīng)存在了幾十年。然而,在過去的幾年中,由于計算能力的巨大進步,研究人員才得以探索那些已經(jīng)停滯不前的算法和方法。在人工智能領域,有一個概念突然引起了人們的注意:神經(jīng)進化。這種方法通過篩選人工神經(jīng)網(wǎng)絡中的神經(jīng)通路來模擬自然進化。通過突變,它確定了處理特定任務最有效的途徑。
在未來幾年,神經(jīng)進化通過允許系統(tǒng)更動態(tài)、更智能地進行調(diào)整和適應,可能會影響各種領域,如機器人、醫(yī)學和后勤。雖然這個概念的起源可以追溯到20世紀80年代,但一直到今天,計算能力的發(fā)展才使研究人員能夠給舊算法注入新的活力。
“神經(jīng)進化將進化算法和人工神經(jīng)網(wǎng)絡結合起來。其結果是得到了一種訓練系統(tǒng)的方法,該方法與人類大腦的進化方式非常相似?!盪ber人工智能實驗室的高級研究科學家Kenneth Stanley解釋道。
自然(代碼)選擇神經(jīng)進化受自然的啟發(fā)。傳統(tǒng)的深度學習使用一種被稱為隨機梯度下降(SGD)的方法;它通過不斷的訓練,逐步減少誤差,從而改進算法。盡管SGD在處理許多計算任務(包括語音和圖像識別等復雜活動)方面非常有效,但它難以應付“強化學習”(學習如何在很少反饋的情況下學習)這一更艱巨的挑戰(zhàn)。例如,腿受損或殘廢的機器人必須學會一種不同的行走方式,而無需任何人告訴它應該如何適應這種特殊情況。
人工智能軟件公司SentientTechnologies的研究副總裁、德克薩斯大學奧斯汀分校(University of Texas at AusTIn)計算機科學系教授Risto Miikkulainen解釋說:“通常,神經(jīng)網(wǎng)絡被用在擁有現(xiàn)有數(shù)據(jù)集的領域。當你有現(xiàn)有的數(shù)據(jù)點告訴你如何將輸入映射到輸出時,此時神經(jīng)網(wǎng)絡是有用的。典型場景包括理解股票市場的行為或天氣狀況的潛在動態(tài),這兩者都會隨著時間的推移顯示出已知的模式。但是,如果您不知道給定輸入的正確輸出是什么,那么您就不能使用這種方法,”Miikkulainen補充道。
神經(jīng)進化旨在繞過這一障礙。在過去的幾年中,一些研究人員已經(jīng)涉足了這種方法,包括非盈利研究公司OpenAI、以及DeepMind和Google的團隊成員。Uber人工智能實驗室的高級研究科學家、懷俄明大學的副教授Stanley和Jeff Clune已經(jīng)證明,神經(jīng)進化是一種能夠創(chuàng)建深度神經(jīng)網(wǎng)絡的強大算法,能夠解決強化學習問題。他們和Uber人工智能實驗室的團隊開發(fā)了一種遺傳算法(GA),訓練具有超過400萬參數(shù)的深度卷積網(wǎng)絡。
機器突變這項研究已經(jīng)證明了神經(jīng)進化的實際可行性。在Uber人工智能實驗室,Stanley和Clune共同撰寫了五篇關于這個主題的學術論文,他們利用遺傳算法訓練了一個神經(jīng)網(wǎng)絡,能夠根據(jù)像素數(shù)據(jù)玩Atari視頻游戲。該系統(tǒng)在13場比賽中的6場中表現(xiàn)優(yōu)于傳統(tǒng)的機器學習方法,并避免了一些SGD方法可能出現(xiàn)的一些死循環(huán)。更重要的是,在其中三場比賽中,該系統(tǒng)的表現(xiàn)優(yōu)于人類。
Stanley稱一個關鍵因素是神經(jīng)網(wǎng)絡自發(fā)突變的能力。他和克萊恩,以及Uber的另一位研究科學家Joel Lehman找到了引入“安全”突變的方法,幫助神經(jīng)網(wǎng)絡顯著增長,并產(chǎn)生更好的結果。這種技術使他們能夠進化出具有100層以上的深層神經(jīng)網(wǎng)路(DNNs),這遠遠超出了以前通過神經(jīng)進化所能達到的程度。
在Uber,該系統(tǒng)的實際好處可能包括開發(fā)出更好的定價模型或更高效的調(diào)度或路由系統(tǒng)。但這只是神經(jīng)進化的魅力之一。遺傳算法,尤其是當它與其他機器學習算法結合在一起時,可以在機器人、無人機、自動駕駛汽車、智能城市、藥物設計和網(wǎng)絡安全等領域帶來各種各樣的改進。不管是對無人機的結構損壞,還是社區(qū)交通的突然激增,這些系統(tǒng)都能動態(tài)、智能地適應變化?!拔覀兊哪繕耸莿?chuàng)建一個框架,可以快速地探索和測試各種可能性,并選擇最佳方法,”Miikkulainen解釋說。
事實上,Miikkulainen認為神經(jīng)進化的未來是光明的。它為解決復雜的計算問題提供了一個潛在的強大工具。包括OpenAI集團在內(nèi)的其他公司也在致力于這一領域的研究,并尋找各種可能性。Clune總結道:“神經(jīng)進化一直是一個有趣的概念?,F(xiàn)代計算讓研究人員開始真正利用這個想法,就像列奧納多·達芬奇設想的直升機,直到很久以后才能真正建造和飛行?!?/p>