所有人都會做夢。人在睡眠的時候,腦細(xì)胞同樣也進入了休息和放松的狀態(tài),但有一部分腦細(xì)胞并沒有完全休息,一些微弱的刺激就會引發(fā)它們的活動,從而讓人們進入夢境。
在大多數(shù)情況下,夢是使人愉快的。當(dāng)我們睡覺時,我們記憶中的視覺和音頻碎片結(jié)合成無意義的片段和全新的故事。松散的回憶瞬間融合了生動、形象的場景,在夢中我們會與已知人物形成的角色進行互動。
做夢并不是睡眠的副產(chǎn)品,而是我們大腦工作的必要過程之一。做夢時,我們的大腦過濾了清醒時收集的信息,然后神經(jīng)系統(tǒng)開始發(fā)揮作用——拋棄不相關(guān)的東西,鞏固重要的東西,以及形成和儲存記憶,這些機制在整個哺乳動物界幾乎都是相同的并且非常行之有效。
那么問題來了:人工智能也需要同樣的機制來過濾、處理信息嗎?
意大利的一組科研人員在數(shù)學(xué)模型上模擬了這個過程,并將其輸入了一個人工智能系統(tǒng),結(jié)果得出了一種算法,即通過強制它們進入離線睡眠狀態(tài)來擴展人工智能網(wǎng)絡(luò)的存儲容量,在此期間它們強化有用的存儲信息并刪除了不相關(guān)的信息。
Adriano Barra是意大利薩蘭托大學(xué)的理論物理學(xué)家。Barra與他的同事Elena Agliari和Alberto Fachechi正在研究大腦這樣復(fù)雜的系統(tǒng),并為人類大腦制作了神經(jīng)生物學(xué)的數(shù)學(xué)模型。
“我們的理論物理學(xué)家比工程師有著一些優(yōu)勢,”Barra說。“由于數(shù)學(xué)模型是相同的,所以我們可以將我們的結(jié)果應(yīng)用于人工智能。我們是神經(jīng)生物學(xué)和工程學(xué)之間的橋梁?!?/p>
在搞清楚“做夢模型”能為人工智能帶來什么之前,我們先要了解一下現(xiàn)在的人工智能神經(jīng)網(wǎng)絡(luò)的一些問題。
人工智能神經(jīng)網(wǎng)絡(luò)的經(jīng)典藍(lán)圖之一是Hopfield模型。它由John Hopfield于1982年開發(fā),這個模型描述了人工智能神經(jīng)網(wǎng)絡(luò)如何模仿真實大腦的模式識別等機制來學(xué)習(xí)和檢索信息。這個模型雖然發(fā)明于30多年前,但是一直沿用至今,并且在機器學(xué)習(xí)、聯(lián)想記憶、模式識別、優(yōu)化計算等方面依然存在著廣泛的應(yīng)用,是現(xiàn)今人工智能進行深度學(xué)習(xí)的重要理論基礎(chǔ)之一。
Hopfield神經(jīng)網(wǎng)絡(luò)是一種單層互相全連接的反饋型神經(jīng)網(wǎng)絡(luò),網(wǎng)絡(luò)中的每一個神經(jīng)元都將自己的輸出通過連接權(quán)傳送給所有其他神經(jīng)元,同時又接收著其他神經(jīng)元傳遞過來的信息。
Hopfield神經(jīng)網(wǎng)絡(luò)最受歡迎的學(xué)習(xí)規(guī)則是赫布學(xué)習(xí)法,它提出了在學(xué)習(xí)過程中如何加強神經(jīng)元之間的突觸(一個神經(jīng)元的沖動傳到另一個神經(jīng)元或傳到另一細(xì)胞間的相互接觸的結(jié)構(gòu))。赫布學(xué)習(xí)法對全球的人腦研究做出了巨大的貢獻(xiàn),對現(xiàn)今的神經(jīng)科學(xué)、認(rèn)知科學(xué)、計算機科學(xué)、行為科學(xué)等研究產(chǎn)生著深遠(yuǎn)的影響。
然而,這個經(jīng)典藍(lán)圖存在一個缺點,通常情況下它只能存儲有限數(shù)量的信息。以數(shù)學(xué)的方式表示,即該對稱網(wǎng)絡(luò)的最大存儲容量為 α~0.14。但是,理論極限是1,或α= 1。
處于“清醒”或在線狀態(tài)的人工智能神經(jīng)網(wǎng)絡(luò)總是在學(xué)習(xí)新的信息模式。然而,除了理想的模式,他們還收集不相關(guān)的,甚至是假的模式。神經(jīng)網(wǎng)絡(luò)可以通過網(wǎng)絡(luò)儲存重要的模式,但存儲錯誤不可避免地會出現(xiàn),導(dǎo)致不相關(guān)的假模式同樣被儲存。