作者：禪與計(jì)算機(jī)程序設(shè)計(jì)藝術(shù)
1.簡(jiǎn)介
在深度學(xué)習(xí)領(lǐng)域，神經(jīng)網(wǎng)絡(luò)(NN)已經(jīng)成為一個(gè)非常有效、普遍且廣泛應(yīng)用的機(jī)器學(xué)習(xí)技術(shù)。而最近，隨著大數(shù)據(jù)、計(jì)算能力的提升以及深度學(xué)習(xí)模型的性能指標(biāo)的提高，神經(jīng)網(wǎng)絡(luò)已逐漸成為解決各種各樣的問(wèn)題的利器。近年來(lái)，膠囊網(wǎng)絡(luò)(CapsNet)便是一種被廣泛應(yīng)用于視覺(jué)、文本等高維數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，在許多任務(wù)上都取得了優(yōu)異的成績(jī)。但是，由于缺少動(dòng)態(tài)路由算法的支持，使得膠囊網(wǎng)絡(luò)難以適應(yīng)不斷變化的輸入要求，因此限制了其在實(shí)際生產(chǎn)環(huán)境中的應(yīng)用。
團(tuán)隊(duì)(IBM Watson AI Lab)近日在公布其《Dynamic Routing Between Capsules》一文，這是一種動(dòng)態(tài)路由算法的論文。該算法可以有效緩解深度學(xué)習(xí)模型對(duì)輸入變化的敏感性，并對(duì)生成的特征向量進(jìn)行更好地泛化，因此能夠用于視覺(jué)、語(yǔ)音、語(yǔ)言、金融等領(lǐng)域。
本文作者黃海波( )、蘇偉( )和李國(guó)祥( )三人，分別就“Dynamic Routing Between Capsules”一文做了系統(tǒng)的闡述，力爭(zhēng)將這一核心算法的理論和實(shí)踐結(jié)合起來(lái)，帶給讀者更加深刻的理解和思考。他們從神經(jīng)元網(wǎng)絡(luò)的研究出發(fā)，提出了膠囊網(wǎng)絡(luò)的結(jié)構(gòu)原理；從輸入輸出之間的動(dòng)態(tài)路由算法出發(fā)，推導(dǎo)出了動(dòng)態(tài)路由網(wǎng)絡(luò)的設(shè)計(jì)思路；最后，通過(guò)實(shí)際的代碼實(shí)例，驗(yàn)證了其有效性及可行性。 文章來(lái)源：http://www.zghlxwxcb.cn/news/detail-721352.html
為了幫助讀者快速了解膠囊網(wǎng)絡(luò)和動(dòng)態(tài)路由網(wǎng)絡(luò)的區(qū)別，作者首先從神經(jīng)元網(wǎng)絡(luò)出發(fā)，詳細(xì)分析了其結(jié)構(gòu)、訓(xùn)練方法、性能評(píng)估標(biāo)準(zhǔn)、可靠性保證以及研究趣點(diǎn)。然后，在介紹膠囊網(wǎng)絡(luò)時(shí)，詳細(xì)討論了其結(jié)構(gòu)，特別是膠囊層的設(shè)計(jì)。接著，在介紹動(dòng)態(tài)路由網(wǎng)絡(luò)之前，作者先回顧了什么是動(dòng)態(tài)路由算法文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-721352.html
到了這里，關(guān)于Dynamic Routing Between Capsules——黃海波團(tuán)隊(duì)的論文，提出了一個(gè)膠囊網(wǎng)絡(luò)的改進(jìn)的文章就介紹完了。如果您還想了解更多內(nèi)容，請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
