問題說明
在服務(wù)器上使用huggingface模型時，如果直接指定模型名稱，用AutoTokenizer.from_pretrained(“model_name”)，可能會由于網(wǎng)絡(luò)原因會報(bào)錯 Failed to connect to huggingface.co port 443 after 75018 ms: Operation time out
因此我們需要下載模型到服務(wù)器上，得到模型本地的路徑model_dir，再通過AutoTokenizer.from_pretrained(model_dir)方式來使用。
下載方式1：手動從huggingface界面下載相應(yīng)文件
從huggingface官網(wǎng)挨個下載文件。這種方式需要先下載模型到本地，再上傳到服務(wù)器上，經(jīng)過兩次傳輸，很是麻煩。不推薦
下載方式2 使用下載器下載
去huggingface 鏡像網(wǎng)站， 先將圖中的model_download.py下載到服務(wù)器中的模型路徑里。
下載代碼為：
wget https://aliendao.cn/model_download.py
然后運(yùn)行代碼：
pip install huggingface_hub
python model_download.py --repo_id （模型ID)
不知道模型ID的可以去搜索欄搜索模型名稱，比如baichuan2-7B-Chat
如圖所示，會給出相應(yīng)的下載代碼：python model_download.py --repo_id baichuan-inc/Baichuan2-7B-Chat
這樣就能直接在服務(wù)器上下載huggingface模型了，而且會顯示下載進(jìn)度條。速度大約是2M/s
溫馨提示
模型下載通常要很久，別忘了打開tmux窗口防止電腦休眠導(dǎo)致網(wǎng)絡(luò)中斷哦
如果你忘了打開tmux窗口也沒關(guān)系，可以按ctrl-z暫停任務(wù)，再打開tmux，重新運(yùn)行python model_download.py --repo_id 模型id 這行下載代碼，可繼續(xù)下載文章來源：http://www.zghlxwxcb.cn/news/detail-762532.html
下載方式3 使用github腳本下載
可以通過此項(xiàng)目，可以實(shí)現(xiàn)下載和加載模型都只需要模型名稱。
github項(xiàng)目鏈接：https://github.com/LetheSec/HuggingFace-Download-Accelerator
文章來源地址http://www.zghlxwxcb.cn/news/detail-762532.html
到了這里，關(guān)于從服務(wù)器上直接下載huggingface模型，解決huggingface無法連接問題的文章就介紹完了。如果您還想了解更多內(nèi)容，請?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
