一、GPT4ALL模型
官網(wǎng)地址：
Github：https://github.com/nomic-ai/gpt4all
GPT4ALL項目部署簡易，但是在運行體驗上一般，并且是只調(diào)用CPU來進行運算。
看官方文檔介紹在嵌入式上有比較大的優(yōu)勢，但是目前個人對嵌入式方向接觸不深，僅在本機部署使用。
本機配置（CPU：i5-8400、顯卡：1060、內(nèi)存：8）
二、模型下載
鏈接：https://gpt4all.io/index.html
可以自行選擇不同的model類型，都有相對應(yīng)的介紹，然后直接下載即可。
model使用相關(guān)文檔鏈接：https://docs.gpt4all.io/index.html
三、使用過程
安裝第三方庫：pip install gpt4all
運行如下代碼
from gpt4all import GPT4All
model = GPT4All(r'D:\GPT_Model\GPT4All-13B-snoozy.ggmlv3.q4_0', allow_download=False)
while True:
str = input('Loading Done! Please input: ')
if str == '0':
break
output = model.generate(str)
print(output)
使用上述代碼，既可在命令行和模型連續(xù)溝通，但是體驗感不佳（可能是因為我自己電腦配置的原因。。 ）
也可以安裝界面版，相關(guān)信息github自行獲取。文章來源：http://www.zghlxwxcb.cn/news/detail-819705.html
將陸續(xù)更新其他的模型本地部署（問就是GPT4ALL不是很好用… ）文章來源地址http://www.zghlxwxcb.cn/news/detail-819705.html
到了這里，關(guān)于ChatGPT本地部署，學習記錄的文章就介紹完了。如果您還想了解更多內(nèi)容，請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
