參考:
https://www.listera.top/ji-xu-zhe-teng-xia-chinese-llama-alpaca/
https://blog.csdn.net/qq_38238956/article/details/130113599
cmake windows安裝參考:https://blog.csdn.net/weixin_42357472/article/details/131314105
llama.cpp下載編譯
1、下載:
git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
2、編譯
mkdir build
cd build
cmake ..
cmake --build . --config Release
3、測(cè)試運(yùn)行
cd bin\Release
./main -h
運(yùn)行LLaMA-7B模型測(cè)試
參考:
https://zhuanlan.zhihu.com/p/638427280文章來(lái)源:http://www.zghlxwxcb.cn/news/detail-603757.html
模型下載:
https://huggingface.co/nyanko7/LLaMA-7B/tree/main
下載下來(lái)后在llama.cpp-master\mode文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-603757.html
到了這里,關(guān)于llama.cpp LLM模型 windows cpu安裝部署;運(yùn)行LLaMA2模型測(cè)試的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!