【Linear Probing | 線性探測】深度學(xué)習(xí) 線性層
1. 作用
自監(jiān)督模型評(píng)測方法
是測試預(yù)訓(xùn)練模型性能的一種方法,又稱為linear probing evaluation
2. 原理
訓(xùn)練后,要評(píng)價(jià)模型的好壞,通過將最后的一層替換成線性層。
預(yù)訓(xùn)練模型的表征層的特征固定,參數(shù)固化后未發(fā)生改變,只通過監(jiān)督數(shù)據(jù)去訓(xùn)練分類器(通常是Softmax分類器或者SVM分類器等等)。
只訓(xùn)練這個(gè)線性層就是linear probe。
3. 出處
何愷明MAE
https://zhuanlan.zhihu.com/p/432614068文章來源:http://www.zghlxwxcb.cn/news/detail-609370.html
4. 參考
https://blog.csdn.net/LoseInVain/article/details/103870157
https://blog.csdn.net/qq_23981335/article/details/122576120文章來源地址http://www.zghlxwxcb.cn/news/detail-609370.html
到了這里,關(guān)于【Linear Probing | 線性探測】深度學(xué)習(xí) 線性層的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!