前言
在做組內(nèi)2030項目時,我具體做的一個工作是對大模型進行LoRA微調(diào),在整個過程中有許多坑,其中有些值得記錄的問題,于是便產(chǎn)生了這篇博客。
問題
我在得到微調(diào)好的模型后,需要對模型進行性能測評。在加載模型時,遇到如下報錯
ValueError: Can't find 'adapter_config.json'
補充:報錯截圖忘截了,但關鍵報錯信息如上。
解決方法
這個問題我找了幾種解決方法都沒用,看到朋友進行微調(diào)生成的模型能夠成功評測,才明白原來是微調(diào)后的模型文件不完整的原因啊~T_T
下面是可以進行成功加載并進行評測的模型文件構成:
下面是我微調(diào)后不能成功加載的模型文件構成:
兩相對比,發(fā)現(xiàn)缺少了文件名以adapter開頭的兩個文件。
在確保我和朋友代碼一樣的情況下,對比了我和他環(huán)境中安裝的包,結果發(fā)現(xiàn)我的transformers版本號為4.29.2,他的transformers版本號為4.31.0文章來源:http://www.zghlxwxcb.cn/news/detail-673061.html
于是使用如下命令重新安裝transformers,再次微調(diào)訓練模型,可以發(fā)現(xiàn)模型文件便完整了。_文章來源地址http://www.zghlxwxcb.cn/news/detail-673061.html
pip install transformers==4.31.0
到了這里,關于報錯ValueError: Can't find 'adapter_config.json'的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關文章,希望大家以后多多支持TOY模板網(wǎng)!