一、說明
????????本篇是?變壓器因其計(jì)算效率和可擴(kuò)展性而成為NLP的首選模型。在計(jì)算機(jī)視覺中,卷積神經(jīng)網(wǎng)絡(luò)(CNN)架構(gòu)仍然占主導(dǎo)地位,但一些研究人員已經(jīng)嘗試將CNN與自我注意相結(jié)合。作者嘗試將標(biāo)準(zhǔn)變壓器直接應(yīng)用于圖像,發(fā)現(xiàn)在中型數(shù)據(jù)集上訓(xùn)練時(shí),與類似ResNet的架構(gòu)相比,這些模型的準(zhǔn)確性適中。然而,當(dāng)在更大的數(shù)據(jù)集上進(jìn)行訓(xùn)練時(shí),視覺轉(zhuǎn)換器(ViT)取得了出色的結(jié)果,并在多個(gè)圖像識(shí)別基準(zhǔn)上接近或超過了最先進(jìn)的技術(shù)。本文記錄這種結(jié)論,等有時(shí)機(jī)去驗(yàn)證。文章來源地址http://www.zghlxwxcb.cn/news/detail-601061.html
二、CNN卷積網(wǎng)絡(luò)transformer起源
文章來源:http://www.zghlxwxcb.cn/news/detail-601061.html
到了這里,關(guān)于【NLP】視覺變壓器與卷積神經(jīng)網(wǎng)絡(luò)的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!