使用本教程前，默認您已經(jīng)安裝并配置好了python3以上版本
1. 去官網(wǎng)下載匹配的Cuda
Cuda下載地址
當前最高版本的Cuda是12.1
我安裝的就是這個版本
小提示：自定義安裝可以只選擇安裝Cuda Runtime。Nvidia全家桶不必全部安裝。把全家桶全部安裝完直接系統(tǒng)盤占了6G，很大的。
2. 安裝pytorch
Pytorch下載地址
我之前使用的是pip install torch (2.0.0版本)
這樣安裝的torch是直接運行在CPU上的
想要使用GPU版本需要使用對應(yīng)的cuda版本
盡管pytorch官網(wǎng)上目前只給出了11.8的Cuda支持，但是社區(qū)明確表明了兼容高版本Cuda。
上圖列出了我本地的torch相關(guān)庫
可以看見這是一個混亂的構(gòu)成（一團糟），
torch是cpu版本的
torchaudio是gpu版本的
torchvision是cpu版本的
可以用torch.cuda.is_available()的方法檢驗自己的torch是不是GPU版本
所以我決定直接全部卸載，重新安裝GPU版本的torch全家桶
pip uninstall torch torchvision torchaudio
然后執(zhí)行安裝
這是本篇文章編寫時最新版本的安裝方法
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
3. 檢驗是否安裝成功
使用pip list查看安裝的版本是否正確
執(zhí)行torch.cuda.is_available() 返回True說明已經(jīng)在使用GPU版本了
4. (擴展)安裝transformer
我之前的版本是4.27.2
但是我在啟動huggingface的GLM項目時遇到了動態(tài)模塊加載的報錯。
已經(jīng)有人給官方提了issue文章來源：http://www.zghlxwxcb.cn/news/detail-413814.html
建議使用4.26.1版本，比較穩(wěn)定。文章來源地址http://www.zghlxwxcb.cn/news/detail-413814.html
到了這里，關(guān)于pytorch安裝GPU版本 (Cuda12.1)教程的文章就介紹完了。如果您還想了解更多內(nèi)容，請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
