一、 人工神經(jīng)網(wǎng)絡的概念

　　人工神經(jīng)網(wǎng)絡（ArTIficial Neural Network，ANN）簡稱神經(jīng)網(wǎng)絡（NN），是基于生物學中神經(jīng)網(wǎng)絡的基本原理，在理解和抽象了人腦結(jié)構(gòu)和外界刺激響應機制后，以網(wǎng)絡拓撲知識為理論基礎(chǔ)，模擬人腦的神經(jīng)系統(tǒng)對復雜信息的處理機制的一種數(shù)學模型。該模型以并行分布的處理能力、高容錯性、智能化和自學習等能力為特征，將信息的加工和存儲結(jié)合在一起，以其獨特的知識表示方式和智能化的自適應學習能力，引起各學科領(lǐng)域的關(guān)注。它實際上是一個有大量簡單元件相互連接而成的復雜網(wǎng)絡，具有高度的非線性，能夠進行復雜的邏輯操作和非線性關(guān)系實現(xiàn)的系統(tǒng)。

　　神經(jīng)網(wǎng)絡是一種運算模型，由大量的節(jié)點（或稱神經(jīng)元）之間相互聯(lián)接構(gòu)成。每個節(jié)點代表一種特定的輸出函數(shù)，稱為激活函數(shù)（acTIvaTIon funcTIon）。每兩個節(jié)點間的連接都代表一個對于通過該連接信號的加權(quán)值，稱之為權(quán)重（weight），神經(jīng)網(wǎng)絡就是通過這種方式來模擬人類的記憶。網(wǎng)絡的輸出則取決于網(wǎng)絡的結(jié)構(gòu)、網(wǎng)絡的連接方式、權(quán)重和激活函數(shù)。而網(wǎng)絡自身通常都是對自然界某種算法或者函數(shù)的逼近，也可能是對一種邏輯策略的表達。神經(jīng)網(wǎng)絡的構(gòu)筑理念是受到生物的神經(jīng)網(wǎng)絡運作啟發(fā)而產(chǎn)生的。人工神經(jīng)網(wǎng)絡則是把對生物神經(jīng)網(wǎng)絡的認識與數(shù)學統(tǒng)計模型相結(jié)合，借助數(shù)學統(tǒng)計工具來實現(xiàn)。另一方面在人工智能學的人工感知領(lǐng)域，我們通過數(shù)學統(tǒng)計學的方法，使神經(jīng)網(wǎng)絡能夠具備類似于人的決定能力和簡單的判斷能力，這種方法是對傳統(tǒng)邏輯學演算的進一步延伸。

?

從數(shù)學的角度講，人工神經(jīng)網(wǎng)絡的本質(zhì)從機器學習的過程可理解為通過參數(shù)求最佳解得過程。同樣也是一個負反饋的過程，以最簡單的負反饋神經(jīng)網(wǎng)絡bp神經(jīng)網(wǎng)絡（back propagaTIon）為例，其本質(zhì)可以形象的理解為這樣一個過程：我們假設這個剛搭建的好的機器人叫“小明”（假設他剛出生），他的硬件軟件等我們不需要考慮的部分全部是最先進的，小明的大腦里現(xiàn)在是最純凈的，除了一個學習的算法什么都沒有，就像一個剛出生的嬰兒一樣。

現(xiàn)在，小明餓了，想吃東西。那么如何才能吃到東西呢？在什么都不知道的情況下，小明開始探索如何才能不餓。他可能會伸手，或者笑、哭，于是母親喂了他吃的，從邏輯上可以這么理解：然后他每次餓了，都開始伸手-笑-哭，然后就有吃的了。突然，有一天他自己也不知道怎么搞的，直接哭了。然后---有吃的了！

這時他才明白這一個邏輯：這時候，機器人“小明“明白，其實達到一個目的很簡單，但是需要不斷嘗試。再后來，小明又餓了，這回他懶得動，稍微小哭了一下等吃的，結(jié)果媽媽沒來喂他！這是為啥？然后他就哭的超級大聲，媽媽看他這樣子以為是病了，急沖沖的送她去診所，結(jié)果啥病也沒有，小明迷惑，這是為什么？

邏輯可以這么理解：然后他把哭聲再稍微降低以點，變成了很正常的哭，這時媽媽終于恍然大悟，喂他吃的。小明終于明白，想吃東西，首先需要哭，然后若哭聲小，不起作用，需要調(diào)大哭聲，若哭聲過大，會起反作用，需要把哭聲再降小一點，就有吃的了。

以上就是人工神經(jīng)網(wǎng)絡的本質(zhì)，通過不斷嘗試引入各種參量，最終得到允許誤差范圍內(nèi)的解，并通過引入?yún)⒘肯禂?shù)，最終得到最優(yōu)解——喂食=哭。通過負反饋機制，當參量所占權(quán)重過小，以當前參量所得結(jié)果為參考依據(jù)適當增加參量權(quán)重比例，增加的比例的系數(shù)隨機。通過第二次的結(jié)果和第一次的結(jié)果選擇更合適的權(quán)重系數(shù)，最后經(jīng)過不斷的“嘗試“得到最優(yōu)解。以上過程即是bp負反饋神經(jīng)網(wǎng)絡的算法思想。