一、計(jì)劃
現(xiàn)在大模型比較多，平時(shí)需要調(diào)試對(duì)比，就把這些大模型簡(jiǎn)單一個(gè)收集。
不斷收集，不斷學(xué)習(xí)
目前，開(kāi)原模型較多，一些能力弱的，沒(méi)啥意義
基座模型通常指的是一個(gè)通用的、預(yù)先訓(xùn)練好的語(yǔ)言模型，如GPT-3.5。這種模型在各種自然語(yǔ)言處理任務(wù)中表現(xiàn)出色，可以用作其他更具體任務(wù)的基礎(chǔ)。對(duì)話模型則是專(zhuān)門(mén)針對(duì)對(duì)話系統(tǒng)設(shè)計(jì)的模型，用于理解和生成對(duì)話。這些模型通常會(huì)在大規(guī)模對(duì)話數(shù)據(jù)上進(jìn)行預(yù)訓(xùn)練，以便更好地理解和生成自然對(duì)話。
在實(shí)際場(chǎng)景中，通常會(huì)使用基座模型進(jìn)行微調(diào)，以適應(yīng)特定的任務(wù)或領(lǐng)域?；Ｐ鸵呀?jīng)在大規(guī)模的通用語(yǔ)言數(shù)據(jù)上進(jìn)行了預(yù)訓(xùn)練，因此可以作為一個(gè)良好的起點(diǎn)，然后通過(guò)微調(diào)來(lái)使其適應(yīng)特定的應(yīng)用場(chǎng)景。
對(duì)話模型通常已經(jīng)在對(duì)話數(shù)據(jù)上進(jìn)行了預(yù)訓(xùn)練，因此在構(gòu)建對(duì)話系統(tǒng)或進(jìn)行對(duì)話相關(guān)的任務(wù)時(shí)，可以使用對(duì)話模型進(jìn)行微調(diào)，以使其更好地理解和生成自然對(duì)話。
無(wú)論是使用基座模型還是對(duì)話模型進(jìn)行微調(diào)，都需要根據(jù)具體的應(yīng)用場(chǎng)景和任務(wù)需求來(lái)選擇合適的模型，并進(jìn)行相應(yīng)的微調(diào)工作
二、模塊劃分
github大模型匯總項(xiàng)目
目前主流大模型匯總
簡(jiǎn)介：整理開(kāi)源的中文大語(yǔ)言模型，以規(guī)?？s小、可試點(diǎn)化部署、成本降低的模型為主，包括基礎(chǔ)模型、垂直領(lǐng)域調(diào)整及應(yīng)用、數(shù)據(jù)集與等教程。
1. nlp領(lǐng)域
（1）. ChatGLM-6B
- ChatGLM-6B
- ChatGLM2-6B
- GLM2-6b 的第三方下載地址
- GLM2-6b int4 第三方下載
- GLM2-6b-32k 第三方下載
- GLM2-6b-32k-int4 下載
- GLM-6b 的第三方下載地址
- GLM-6b-int8 的第三方下載地址
- GLM-6b-int4 的第三方下載地址
ChatGLM2-6B 是開(kāi)源中英雙語(yǔ)對(duì)話模型 ChatGLM-6B 的第二代版本，在保留了初代模型對(duì)話流暢、部署門(mén)檻較低等眾多優(yōu)秀特性的基礎(chǔ)之上，ChatGLM2-6B 引入了如下新特性：
GLM 多卡部署
（2）. LLaMA
mata官方地址
Chinese-LLaMA-Alpaca
Chinese-Llama-2系列-三方下載
Atom-7B-Chat-三方下載
Chinese-7b-Chat-三方下載
Llama2-Chinese-13b-Chat-三方下載
Llama2-Chinese-13b-Chat-4bit
本項(xiàng)目開(kāi)源了中文LLaMA模型和指令精調(diào)的Alpaca大模型，以進(jìn)一步促進(jìn)大模型在中文NLP社區(qū)的開(kāi)放研究。這些模型在原版LLaMA的基礎(chǔ)上擴(kuò)充了中文詞表并使用了中文數(shù)據(jù)進(jìn)行二次預(yù)訓(xùn)練，進(jìn)一步提升了中文基礎(chǔ)語(yǔ)義理解能力。同時(shí)，中文Alpaca模型進(jìn)一步使用了中文指令數(shù)據(jù)進(jìn)行精調(diào)，顯著提升了模型對(duì)指令的理解和執(zhí)行能力。
LLMA 安裝部署
（3）. Mistral 7B
號(hào)稱(chēng)：目前為止最好的 7B 模型
Mistral 7B
（4）.Mistral-8x7B
性能超越 Llama2-65B
A微調(diào)Mistral-8x7B
（5）BAAI/bge-reranker-base
特征向量提取器，特別是在向量檢索，相似度匹配等領(lǐng)域的表現(xiàn)，目前是最先進(jìn)的模型
BAAI/bge-reranker-base
github網(wǎng)址
2. 知識(shí)圖譜
（1.）信息抽取
-
通用信息抽取 UIE(Universal Information Extraction)
UIE(Universal Information Extraction)：Yaojie Lu等人在ACL-2022中提出了通用信息抽取統(tǒng)一框架UIE。該框架實(shí)現(xiàn)了實(shí)體抽取、關(guān)系抽取、事件抽取、情感分析等任務(wù)的統(tǒng)一建模，并使得不同任務(wù)間具備良好的遷移和泛化能力。為了方便大家使用UIE的強(qiáng)大能力，PaddleNLP借鑒該論文的方法，基于ERNIE 3.0知識(shí)增強(qiáng)預(yù)訓(xùn)練模型，訓(xùn)練并開(kāi)源了首個(gè)中文通用信息抽取模型UIE。該模型可以支持不限定行業(yè)領(lǐng)域和抽取目標(biāo)的關(guān)鍵信息抽取，實(shí)現(xiàn)零樣本快速冷啟動(dòng)，并具備優(yōu)秀的小樣本微調(diào)能力，快速適配特定的抽取目標(biāo)。 -
開(kāi)放域文本理解大模型
SeqGPT是一個(gè)不限領(lǐng)域的文本理解大模型。無(wú)需訓(xùn)練，即可完成實(shí)體識(shí)別、文本分類(lèi)、閱讀理解等多種任務(wù)。該模型基于Bloomz在數(shù)以百計(jì)的任務(wù)數(shù)據(jù)上進(jìn)行指令微調(diào)獲得。模型可以在低至16G顯存的顯卡上免費(fèi)使用。
github地址
（2.）實(shí)體識(shí)別關(guān)系抽取數(shù)據(jù)集
多領(lǐng)域數(shù)據(jù)集
（3.）一些較為完成的圖譜項(xiàng)目
項(xiàng)目地址
（4.）阿里藏經(jīng)閣
藏經(jīng)閣
在商業(yè)知識(shí)圖譜數(shù)據(jù)開(kāi)放基礎(chǔ)之上，我們還開(kāi)放了部分知識(shí)圖譜技術(shù)平臺(tái)能力，開(kāi)源了若干知識(shí)圖譜構(gòu)建、融合、推理和應(yīng)用工具，以促進(jìn)知識(shí)圖譜技術(shù)社區(qū)的發(fā)展。
-
DeepKE
DeepKE 是一個(gè)支持低資源、長(zhǎng)篇章的知識(shí)圖譜抽取工具，用戶(hù)可以定制輸入的數(shù)據(jù)集和模型實(shí)現(xiàn)命名實(shí)體識(shí)別、關(guān)系抽取、屬性抽取等知識(shí)圖譜構(gòu)建功能。 -
NeuralKG
是一個(gè)通用的知識(shí)圖譜神經(jīng)網(wǎng)絡(luò)表示學(xué)習(xí)工具，其包含常用的知識(shí)圖譜嵌入模型、基于圖神經(jīng)網(wǎng)絡(luò)的圖譜推理模型，以及多個(gè)規(guī)則增強(qiáng)推理模型 -
OpenUE
OpenUE是一個(gè)輕量級(jí)知識(shí)圖譜抽取工具，其實(shí)現(xiàn)了在一個(gè)統(tǒng)一通用的框架下實(shí)現(xiàn)實(shí)體關(guān)系、事件識(shí)別、以及槽位和意圖抽取等多種知識(shí)圖譜構(gòu)建任務(wù)。 -
PromptKG
PromptKGC（Incoming）是一個(gè)基于Pretrain-Prompt-Fitune預(yù)訓(xùn)練范式的知識(shí)圖譜抽取和補(bǔ)全工具，支持文本生成等多種應(yīng)用和任務(wù)。 -
FastKGE
是一個(gè)輕量級(jí)知識(shí)圖譜表示學(xué)習(xí)框架，其通過(guò)知識(shí)圖譜蒸餾等方法，實(shí)現(xiàn)快速、高效的實(shí)體向量學(xué)習(xí)，可支持知識(shí)圖譜模型的快速部署，以及在移動(dòng)、邊緣設(shè)備應(yīng)用部署。
（5.）構(gòu)建知識(shí)圖譜大模型 東北大學(xué)
構(gòu)建知識(shí)圖譜大模型
TechGPT是“東北大學(xué)知識(shí)圖譜研究組”發(fā)布的垂直領(lǐng)域大語(yǔ)言模型。目前在HuggingFace??: TechGPT-7Bneukg/TechGPT-7B開(kāi)源了全量微調(diào)的7B版本。
TechGPT主要強(qiáng)化了如下三類(lèi)任務(wù):
以“知識(shí)圖譜構(gòu)建”為核心的關(guān)系三元組抽取等各類(lèi)信息抽取任務(wù)
以“閱讀理解”為核心的各類(lèi)智能問(wèn)答任務(wù)。
以“文本理解”為核心的關(guān)鍵詞生成等各類(lèi)序列生成任務(wù)。
摘要縮寫(xiě)，標(biāo)題擴(kuò)寫(xiě)
3. 語(yǔ)音識(shí)別
（1）.Whisper
是一個(gè)通用的語(yǔ)音識(shí)別模型，可以執(zhí)行多語(yǔ)言語(yǔ)音識(shí)別、語(yǔ)音翻譯和語(yǔ)音識(shí)別
Whisper
4. 文本生成3D
（1）. Shap-E
以文本或者圖像為基礎(chǔ)生成3D
Shap-E
5. 本地知識(shí)庫(kù)相關(guān)
5.1 Langchain-Chatchat（原Langchain-ChatGLM）基于 Langchain 與 ChatGLM 等語(yǔ)言模型的本地知識(shí)庫(kù)問(wèn)答
本地知識(shí)庫(kù)問(wèn)答
6. 圖像領(lǐng)域
6.1 一鍵換裝
模特一件換裝
5.2 ChatYuan-large-v2 大語(yǔ)言模型進(jìn)行基于知識(shí)庫(kù)的問(wèn)答
ChatYuan-large-v2 大語(yǔ)言模型進(jìn)行基于知識(shí)庫(kù)的問(wèn)答
nlp_bert_document-segmentation_chinese-base 語(yǔ)義分割模型對(duì)文本進(jìn)行拆分
text2vec-large-chinese 模型 對(duì)文本向量化
faiss進(jìn)行向量檢索
langchain 進(jìn)行各個(gè)模塊的組合，并完成基于知識(shí)庫(kù)的問(wèn)答
項(xiàng)目結(jié)構(gòu)
大語(yǔ)言模型進(jìn)行基于知識(shí)庫(kù)的問(wèn)答
二、模型下載的常見(jiàn)方法
因?yàn)榇竽Ｐ蛣?dòng)輒十幾GB的大小，因?yàn)閷?duì)于開(kāi)發(fā)人員來(lái)說(shuō)，環(huán)境搭好了，模型還要好幾個(gè)小時(shí)。
模型下載的四種方式：
1、Hugging http://face.cn上手動(dòng)下載模型及其文件，
因?yàn)閲?guó)內(nèi)對(duì)該網(wǎng)站不開(kāi)放，需掛vpn下載，因?yàn)橥饩W(wǎng)下載，所以速度依賴(lài)于你的外網(wǎng)網(wǎng)速
下載地址
2、阿里的modelscope上下載，
無(wú)需vpn，如果你的網(wǎng)速還行，建議這種方式，首先需要安裝modelscope：pip install modelscope
# 從modelscope上下載模型
from modelscope.hub.snapshot_download import snapshot_download
model_dir = snapshot_download('baichuan-inc/baichuan-7B', cache_dir='./model', revision='master')
如果你網(wǎng)速很好，下載就很快，如果是kb/s，那么大文件下載會(huì)失敗。
3、huggingface的鏡像網(wǎng)站aliendao網(wǎng)站下載，
無(wú)需vpn，非開(kāi)發(fā)者需手動(dòng)下載互鏈高科 （非開(kāi)發(fā)者或者怕麻煩可以直接去網(wǎng)站手動(dòng)下載）
開(kāi)發(fā)者在aliendao的下載器上下載 下載地址
# 開(kāi)發(fā)者可以直接看這里，這里的操作是在你已經(jīng)有了一個(gè)python3.7以上的環(huán)境下，可以直接下述操作
# 如果你沒(méi)有的話，移步 https://github.com/git-cloner/aliendao
git clone https://github.com/git-cloner/aliendao
cd aliendao
pip install -r requirements.txt -i https://pypi.mirrors.ustc.edu.cn/simple --trusted-host=pypi.mirrors.ustc.edu.cn
# 帶上mirror參數(shù)，優(yōu)先從aliendao.cn鏡像下載
python model_download.py --mirror --repo_id baichuan-inc/Baichuan2-13B-Chat-4bits
讓公司的運(yùn)維測(cè)了，aliendao的帶寬很慢，即便你的網(wǎng)速很快，速度也非常一般，而且這個(gè)網(wǎng)站模型不全。
4、huggingface的鏡像網(wǎng)站
鏡像網(wǎng)址
網(wǎng)速很快，公司運(yùn)維有測(cè)到4M/s，非常推薦用這個(gè)網(wǎng)站直接下載文章來(lái)源：http://www.zghlxwxcb.cn/news/detail-770321.html
備注：huggingface的鏡像網(wǎng)站下載llama2系列模型如何加認(rèn)證的信息
加 huggingface access token 就可以下載，wget --header="Authorization: Bearer <hf_token>" url ，如果是git clone，則提示輸密碼時(shí)輸入access token。文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-770321.html
到了這里，關(guān)于AI領(lǐng)域常用大模型地址及下載方法（持續(xù)更新）的文章就介紹完了。如果您還想了解更多內(nèi)容，請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
