相關(guān)文章

• LLMs之ChatGLM2：ChatGLM2-6B本地部署之單機(jī)推理(API/CLI/GUI)、低成本部署(GPU量化部署/CPU及其量化部署/Mac部署/多卡部署)、有限資源下高效微調(diào)(全參/P-t

  LLMs之ChatGLM2：ChatGLM2-6B本地部署之單機(jī)推理(API/CLI/GUI)、低成本部署(GPU量化部署/CPU及其量化部署/Mac部署/多卡部署)、有限資源下高效微調(diào)(全參/P-tuning v2)、模型評(píng)估和推理之圖文教程之詳細(xì)攻略 目錄 一、配置基礎(chǔ)環(huán)境及其注意事項(xiàng) 第一步、檢測軟硬件環(huán)境

  2024年02月07日

  瀏覽(29)

• 第七篇-Tesla P40+ChatGLM2+P-Tuning

  https://huggingface.co/THUDM/chatglm2-6b 下載模型相關(guān)文件到自己目錄 我的是/models/chatglm2-6b 創(chuàng)建環(huán)境安 一定注意數(shù)據(jù)中格式，符號(hào)中英文等等 train_loss 要小，如果1,2這種未調(diào)出的效果很差 如果調(diào)整了數(shù)據(jù)集，要清理緩存，緩存目錄如下 /root/.cache/huggingface/datasets output/adgen-chatglm2-6b

  2024年02月13日

  瀏覽(21)
• 

  ChatGLM2-6B微調(diào)實(shí)踐-QLora方案

  申請阿里云GPU服務(wù)器： CentOS 7.6 64 Anaconda3-2023.07-1-Linux-x86_64 Python 3.11.5 GPU NVIDIA A10（顯存24 G/1 core） CPU 8 vCore/30G 安裝Anaconda、CUDA、PyTorch 參考：ChatGLM2-6B微調(diào)實(shí)踐-P-Tuning方案 項(xiàng)目部署 準(zhǔn)備數(shù)據(jù)集 準(zhǔn)備我們自己的數(shù)據(jù)集，分別生成訓(xùn)練文件和測試文件這兩個(gè)文件，放在項(xiàng)目dat

  2024年02月07日

  瀏覽(31)
• 

  ChatGLM2-6B在Windows下的微調(diào)

  1、ChatGLM2-6B! 我跑通啦！本地部署+微調(diào)（windows系統(tǒng)）：這是最關(guān)鍵的一篇文章，提供了Windows下的腳本 2、LangChain + ChatGLM2-6B 搭建個(gè)人專屬知識(shí)庫：提供了基本的訓(xùn)練思路。 1、已完成ChatGLM2-6B的部署，假設(shè)部署位置為D:_ChatGPTlangchain-chatglm_testChatGLM2-6B 2、部署環(huán)境 Windows 10 專業(yè)

  2024年02月13日

  瀏覽(28)
• 

  【AIGC】Chatglm2-lora微調(diào)

  ChatGLM2-6B 源碼地址：https://github.com/THUDM/ChatGLM2-6B ChatGLM2-6B 是開源中英雙語對(duì)話模型 ChatGLM-6B 的 第二代版本 ，在保留了初代模型對(duì)話流暢、部署門檻較低等眾多優(yōu)秀特性的基礎(chǔ)之上，ChatGLM2-6B 引入了如下新特性： 1、 更強(qiáng)大的性能 ：基于 ChatGLM 初代模型的開發(fā)經(jīng)驗(yàn)，我們?nèi)?/p>

  2024年02月11日

  瀏覽(25)

• chatglm2-6b在P40上做LORA微調(diào)

  目前，大模型的技術(shù)應(yīng)用已經(jīng)遍地開花。最快的應(yīng)用方式無非是利用自有垂直領(lǐng)域的數(shù)據(jù)進(jìn)行模型微調(diào)。chatglm2-6b在國內(nèi)開源的大模型上，效果比較突出。本文章分享的內(nèi)容是用chatglm2-6b模型在集團(tuán)EA的P40機(jī)器上進(jìn)行垂直領(lǐng)域的LORA微調(diào)。 github： https://github.com/THUDM/ChatGLM2-6B ch

  2024年02月10日

  瀏覽(28)
• 

  ChatGLM2-6B! 我跑通啦！本地部署+微調(diào)（windows系統(tǒng)）

  記錄一下此時(shí)此刻，2023年7月8日22點(diǎn)04，從ChatGLM2-6B在7月4日開放了ptuning到此時(shí)此刻，ChatGLM2-6B的微調(diào)終于被哥們跑通了！ 從 本地部署ChatGLM2-6B 到 本地進(jìn)行P-tuning微調(diào) ，再到最后的 模型檢測 ，哥們?nèi)芡耍?這里非常感謝ChatGLM2-6B｜開源本地化語言模型這篇博客！因?yàn)槲也贾?/p>

  2024年02月16日

  瀏覽(22)

• GPT實(shí)戰(zhàn)系列-如何用自己數(shù)據(jù)微調(diào)ChatGLM2模型訓(xùn)練

  廣告文案生成模型 輸入文字 ：類型#裙 顏色#藍(lán)色 風(fēng)格#清新*圖案#蝴蝶結(jié) 輸出文案 ：裙身處采用立體蝴蝶結(jié)裝飾輔以藍(lán)色條帶點(diǎn)綴，令衣身造型飽滿富有層次的同時(shí)為其注入一絲甜美氣息。將女孩清新嬌俏的一面襯托而出。 訓(xùn)練和測試數(shù)據(jù)組織： 數(shù)據(jù)可以從 下載鏈接，t

  2024年02月06日

  瀏覽(18)
• 

  LLaMA-Factory可視化界面微調(diào)chatglm2；LoRA訓(xùn)練微調(diào)模型 簡單案例

  參考：https://github.com/huggingface/peft https://github.com/hiyouga/LLaMA-Factory 類似工具還有流螢，注意是做中文微調(diào)訓(xùn)練這塊；來訓(xùn)練微調(diào)的chatglm2需要完整最新文件，不能是量化后的模型；另外測試下來顯卡資源要大于20來G才能順利，這邊T4單卡訓(xùn)練中間顯存不足，需要開啟4bit量化才行

  2024年02月05日

  瀏覽(34)
• 

  ChatGLM-6B的P-Tuning微調(diào)詳細(xì)步驟及結(jié)果驗(yàn)證

  ChatGLM-6B 倉庫地址：https://github.com/THUDM/ChatGLM-6B ChatGLM-6B/P-Tuning 倉庫地址：https://github.com/THUDM/ChatGLM-6B/tree/main/ptuning 1.1 P-Tuning v2簡介 P-Tuning 是一種較新的模型微調(diào)方法，它采用了參數(shù)剪枝的技術(shù)，可以將微調(diào)的參數(shù)量減少到原來的0.1%。具體來說， P-Tuning v2 是基于 P-Tuning v1 的

  2024年02月06日

  瀏覽(21)