高級分布式系統(tǒng)匯總：高級分布式系統(tǒng)目錄匯總-CSDN博客
神經(jīng)網(wǎng)絡理論
模糊控制在處理數(shù)值數(shù)據(jù)、自學習能力等方面還遠沒有達到人腦的境界。人工神經(jīng)網(wǎng)絡從另一個角度出發(fā)，即從人腦的生理學和心理學著手，通過人工模擬人腦的工作機理來實現(xiàn)機器的部分智能行為。
人工神經(jīng)網(wǎng)絡（簡稱神經(jīng)網(wǎng)絡，Neural Network）是模擬人腦思維方式的數(shù)學模型。神經(jīng)網(wǎng)絡是在現(xiàn)代生物學研究人腦組織成果的基礎上提出的，用來模擬人類大腦神經(jīng)網(wǎng)絡的結(jié)構(gòu)和行為。神經(jīng)網(wǎng)絡反映了人腦功能的基本特征，如并行信息處理、學習、聯(lián)想、模式分類、記憶等。
（1）能逼近任意非線性函數(shù)；
（2）信息的并行分布式處理與存儲；
（3）可以多輸入、多輸出；
（4）便于用超大規(guī)模集成電路（VISI）或光學集成電路系統(tǒng)實現(xiàn)，或用現(xiàn)有的計算機技術(shù)實現(xiàn)；
（5）能進行學習，以適應環(huán)境的變化。
單神經(jīng)元網(wǎng)絡
常用的神經(jīng)元非線性特性有以下幾種：
BP神經(jīng)網(wǎng)絡
誤差反向傳播神經(jīng)網(wǎng)絡，簡稱BP網(wǎng)絡（Back Propagation）
含一個隱含層的BP網(wǎng)絡結(jié)構(gòu)，圖中 i為輸入層神經(jīng)元， 為隱層神經(jīng)元， k為輸出層神經(jīng)元。
用于逼近的BP網(wǎng)絡
BP算法的學習過程由正向傳播和反向傳播組成。
在正向傳播過程中，輸入信息從輸入層經(jīng)隱層逐層處理，并傳向輸出層，每層神經(jīng)元（節(jié)點）的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。
如果在輸出層不能得到期望的輸出，則轉(zhuǎn)至反向傳播，將誤差信號（理想輸出與實際輸出之差）按聯(lián)接通路反向計算，由梯度下降法調(diào)整各層神經(jīng)元的權(quán)值，使誤差信號減小。
優(yōu)缺點
BP網(wǎng)絡的優(yōu)點為：
（1）只要有足夠多的隱層和隱層節(jié)點，可以逼近任意的非線性映射關系；
（2）BP網(wǎng)絡的學習算法屬于全局逼近算法，具有較強的泛化能力;
（3）BP網(wǎng)絡輸入輸出之間的關聯(lián)信息分布地存儲在網(wǎng)絡的連接權(quán)中，個別神經(jīng)元的損壞只對輸入輸出關系有較小的影響，因而BP網(wǎng)絡具有較好的容錯性。
BP網(wǎng)絡的主要缺點為：
（1）待尋優(yōu)的參數(shù)多，收斂速度慢；
（2）目標函數(shù)存在多個極值點，按梯度下降法進行學習，很容易陷入局部極小值；文章來源：http://www.zghlxwxcb.cn/news/detail-804014.html
（3）難以確定隱層及隱層節(jié)點的數(shù)目。目前，如何根據(jù)特定的問題來確定具體的網(wǎng)絡結(jié)構(gòu)尚無很好的方法，仍需根據(jù)經(jīng)驗來試湊。文章來源地址http://www.zghlxwxcb.cn/news/detail-804014.html
到了這里，關于高級分布式系統(tǒng)-第15講 分布式機器學習--神經(jīng)網(wǎng)絡理論的文章就介紹完了。如果您還想了解更多內(nèi)容，請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關文章，希望大家以后多多支持TOY模板網(wǎng)！
