改進(jìn)YOLOv8 | 主干網(wǎng)絡(luò)篇 | YOLOv8 更換骨干網(wǎng)絡(luò)之 SwinTransformer | 《基于位移窗口的層次化視覺變換器》

2年前作者：迪菲赫爾曼分類：Toy博客閱讀(25)違法舉報(bào)

這篇具有很好參考價(jià)值的文章主要介紹了改進(jìn)YOLOv8 | 主干網(wǎng)絡(luò)篇 | YOLOv8 更換骨干網(wǎng)絡(luò)之 SwinTransformer | 《基于位移窗口的層次化視覺變換器》。希望對(duì)大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方，請(qǐng)大家不吝賜教，您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問。

論文地址：https://arxiv.org/pdf/2103.14030.pdf
代碼地址：https://github.com/microsoft/Swin-Transformer

本文介紹了一種新的視覺Transformer，稱為Swin Transformer，它可以作為計(jì)算機(jī)視覺通用的骨干網(wǎng)絡(luò)。從語言到視覺的轉(zhuǎn)換中，適應(yīng)Transformer所面臨的挑戰(zhàn)源于兩個(gè)領(lǐng)域之間的差異，如視覺實(shí)體尺度的巨大變化和圖像中像素的高分辨率與文本中單詞的差異。為了解決這些差異，我們提出了一種分層Transformer，其表示是通過Shifted窗口計(jì)算的。Shifted窗口方案通過將自注意計(jì)算限制在非重疊的本地窗口內(nèi)，同時(shí)允許跨窗口連接，從而提高了效率。這種分層架構(gòu)具有在不同尺度下進(jìn)行建模的靈活性，并且與圖像大小的計(jì)算復(fù)雜度呈線性關(guān)系。這些特性使Swin Transformer與廣泛的視覺任務(wù)兼容，包括圖像分類（在ImageNet-1K上的87.3的top-1準(zhǔn)確率）和密集預(yù)測(cè)任務(wù)，如物體檢測(cè)（在COCO測(cè)文章來源地址http://www.zghlxwxcb.cn/news/detail-455835.html

到了這里，關(guān)于改進(jìn)YOLOv8 | 主干網(wǎng)絡(luò)篇 | YOLOv8 更換骨干網(wǎng)絡(luò)之 SwinTransformer | 《基于位移窗口的層次化視覺變換器》的文章就介紹完了。如果您還想了解更多內(nèi)容，請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！

本文來自互聯(lián)網(wǎng)用戶投稿，該文觀點(diǎn)僅代表作者本人，不代表本站立場(chǎng)。本站僅提供信息存儲(chǔ)空間服務(wù)，不擁有所有權(quán)，不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載，請(qǐng)注明出處：如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符，請(qǐng)點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋，一經(jīng)查實(shí)，立即刪除！

分享到：

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

【YOLOv8改進(jìn)】 YOLOv8 更換骨干網(wǎng)絡(luò)之GhostNetV2 長(zhǎng)距離注意力機(jī)制增強(qiáng)廉價(jià)操作，構(gòu)建更強(qiáng)端側(cè)輕量型骨干 (論文筆記+引入代碼)
輕量級(jí)卷積神經(jīng)網(wǎng)絡(luò)（CNNs）專為移動(dòng)設(shè)備上的應(yīng)用而設(shè)計(jì)，具有更快的推理速度。卷積操作只能捕獲窗口區(qū)域內(nèi)的局部信息，這限制了性能的進(jìn)一步提升。將自注意力引入到卷積中可以很好地捕獲全局信息，但這將大大增加實(shí)際速度的負(fù)擔(dān)。在本文中，我們提出了一種硬件友
2024年03月23日
瀏覽(25)
YOLOv8芒果獨(dú)家首發(fā) | 改進(jìn)新主干：改進(jìn)版目標(biāo)檢測(cè)新范式骨干PPHGNetv2，百度出品，提升YOLOv8檢測(cè)能力
?? 本篇內(nèi)容：YOLOv8改進(jìn)新主干：目標(biāo)檢測(cè)新范式骨干PPHGNetv2改進(jìn)版，百度出品，提升YOLOv8檢測(cè)能力 ????????本博客改進(jìn)源代碼改進(jìn) 適用于 YOLOv8 按步驟操作運(yùn)行改進(jìn)后的代碼即可 ??本文提出改進(jìn) 原創(chuàng) 方式：二次創(chuàng)新，YOLOv8專屬，充分結(jié)合YOLOv8和 PPHGNetv2網(wǎng)絡(luò) 本改進(jìn)結(jié)
2024年02月06日
瀏覽(28)
YOLOv8改進(jìn)輕量級(jí)PP-LCNet主干系列：最新使用超強(qiáng)悍CPU級(jí)骨干網(wǎng)絡(luò)PP-LCNet，在CPU上讓模型起飛，速度比MobileNetV3+快3倍，又輕又快
??本篇文章基于 YOLOv8 芒果改進(jìn)YOLO系列： YOLOv8改進(jìn)輕量級(jí)主干系列：最新使用超強(qiáng)悍CPU級(jí)骨干網(wǎng)絡(luò)PP-LCNet，在CPU上讓模型起飛，速度比MobileNetV3+快3倍、打造全新YOLOv8檢測(cè)器。 ??????內(nèi)含改進(jìn)源代碼，按步驟操作運(yùn)行改進(jìn)后的代碼即可參數(shù)量和計(jì)算量均下降重點(diǎn) ：????
2024年02月06日
瀏覽(25)
YOLOv8 更換骨干網(wǎng)絡(luò)之 MobileNetV3
論文地址：https://arxiv.org/abs/1905.02244 代碼地址：https://github.com/xiaolai-sqlai/mobilenetv3 我們展示了基于互補(bǔ)搜索技術(shù)和新穎架構(gòu)設(shè)計(jì)相結(jié)合的下一代 MobileNets。MobileNetV3通過結(jié)合硬件感知網(wǎng)絡(luò)架構(gòu)搜索（NAS）和 NetAdapt算法對(duì)移動(dòng)設(shè)計(jì)如何協(xié)同工作，利用互補(bǔ)的方法來提高移動(dòng)端CP
2023年04月21日
瀏覽(32)
改進(jìn)YOLO系列 | YOLOv5 更換骨干網(wǎng)絡(luò)之 ConvNeXt
??2023/6/30 更新源代碼，并追加結(jié)構(gòu)對(duì)應(yīng)的超參數(shù)文件論文地址：https://arxiv.org/pdf/2201.03545.pdf 代碼地址：https://github.com/facebookresearch/ConvNeXt 視覺識(shí)別的“Roaring 20年代”始于視覺變換器（ViTs）的引入，它很快取代了ConvNets，成為最先進(jìn)的圖像分類模型。另一方面，普通ViTs在應(yīng)
2024年02月04日
瀏覽(30)
YOLOv8改進(jìn) 優(yōu)化HGBlock網(wǎng)絡(luò)主干
HGNet是一種用于目標(biāo)檢測(cè)任務(wù)的神經(jīng)網(wǎng)絡(luò)模型。基于ResNeSt和Hourglass網(wǎng)絡(luò)的結(jié)構(gòu)，經(jīng)過訓(xùn)練可以通過輸入圖像來檢測(cè)圖中的目標(biāo)物體。 \\\"HG\\\"表示Hourglass網(wǎng)絡(luò)的縮寫，\\\"Net\\\"表示網(wǎng)絡(luò)。這個(gè)模型的設(shè)計(jì)靈感來自于人類對(duì)目標(biāo)進(jìn)行檢測(cè)和定位的能力。它具有多個(gè)由ResNeSt模塊和Hourglass模
2024年02月21日
瀏覽(26)
主干網(wǎng)絡(luò)篇 | YOLOv8 更換主干網(wǎng)絡(luò)之 VanillaNet |《華為方舟實(shí)驗(yàn)室最新成果》
2023/11/14 新增 VanillaNet5 VanillaNet13 ?? 論文地址：https://arxiv.org/pdf/2305.12972.pdf 代碼地址：https://github.com/huawei-noah/VanillaNet 在基礎(chǔ)模型的核心是“多樣性即不同”，這一哲學(xué)在計(jì)算機(jī)視覺和自然語言處理方面取得了驚人的成功。然而，優(yōu)化和Transformer模型固有的復(fù)雜性帶來了挑戰(zhàn)
2024年02月07日
瀏覽(18)
主干網(wǎng)絡(luò)篇 | YOLOv8 更換主干網(wǎng)絡(luò)之 VanillaNet |《華為方舟實(shí)驗(yàn)室最新成果》| 新增多個(gè)尺寸
2023/11/14 新增 VanillaNet5 VanillaNet13 ?? 論文地址：https://arxiv.org/pdf/2305.12972.pdf 代碼地址：https://github.com/huawei-noah/VanillaNet 在基礎(chǔ)模型的核心是“多樣性即不同”，這一哲學(xué)在計(jì)算機(jī)視覺和自然語言處理方面取得了驚人的成功。然而，優(yōu)化和Transformer模型固有的復(fù)雜性帶來了挑戰(zhàn)
2024年02月04日
瀏覽(25)
YoloV8改進(jìn)策略：主干網(wǎng)絡(luò)改進(jìn)|MogaNet——高效的多階門控聚合網(wǎng)絡(luò)
2024年02月21日
瀏覽(95)
YOLOv5改進(jìn)實(shí)戰(zhàn) | 更換主干網(wǎng)絡(luò)Backbone（一）之輕量化網(wǎng)絡(luò)Ghostnet
前言輕量化網(wǎng)絡(luò)設(shè)計(jì) 是一種針對(duì)移動(dòng)設(shè)備等資源受限環(huán)境的深度學(xué)習(xí)模型設(shè)計(jì)方法。下面是一些常見的輕量化網(wǎng)絡(luò)設(shè)計(jì)方法：網(wǎng)絡(luò)剪枝：移除神經(jīng)網(wǎng)絡(luò)中冗余的連接和參數(shù)，以達(dá)到模型壓縮和加速的目的。分組卷積：將卷積操作分解為若干個(gè)較小的卷積操作，并將它們分
2024年02月05日
瀏覽(31)