2023年初，ChatGPT 人工智能對話模型火爆全球，僅兩個月的時間就突破一億月活用戶，成為有史以來應(yīng)用速度最快的技術(shù)之一。
ChatGPT 的大熱引發(fā)了全球科技巨頭之間的“軍備競賽”，中國本土的“中國版 ChatGPT ”也隨之展開了激烈角逐。在中國多家科技公司中，百度于3月上線的對話 AI 產(chǎn)品“文心一言”最先開火。
近日復(fù)旦大學(xué)自然語言處理實(shí)驗(yàn)室邱錫鵬教授團(tuán)隊(duì)研發(fā)的大語言模型 MOSS 也已公開發(fā)布并開源。MOSS 的公開發(fā)布無疑加劇了國內(nèi) ChatGPT 式產(chǎn)品的競爭。
MOSS 是什么？
MOSS 是一個支持中英雙語和多種插件的開源對話語言模型，moss-moon系列模型具有160億參數(shù)，在 FP16 精度下可在單張 A100/A800 或兩張 3090 顯卡運(yùn)行，在 INT4/8 精度下可在單張 3090 顯卡運(yùn)行。MOSS 基座語言模型在約七千億中英文以及代碼單詞上預(yù)訓(xùn)練得到，后續(xù)經(jīng)過對話指令微調(diào)、插件增強(qiáng)學(xué)習(xí)和人類偏好訓(xùn)練具備多輪對話能力及使用多種插件的能力。
申請服務(wù)器
這里使用阿里云免費(fèi)的 GPU 服務(wù)器進(jìn)行部署，免費(fèi)試用活動頁 https://free.aliyun.com/ 。
只要沒有申請過 PAI-DSW 資源的新老用戶皆可申請 5000CU 的免費(fèi)額度，3個月內(nèi)使用。
點(diǎn)擊試用，完成注冊、實(shí)名、領(lǐng)取產(chǎn)品后進(jìn)入如下頁面。
創(chuàng)建工作空間并授權(quán)。
授權(quán)完成，前往默認(rèn)工作空間。
創(chuàng)建交互式建模（DWS）實(shí)例。
輸入實(shí)例名稱，就叫它 550W 吧~，GPU 選擇 A10 或者 V100 都行，這倆是支持資源包抵扣的，其他的不支持，這里注意！V100 性能更好，但我們測試使用沒必要，就選 A10 就行，A10 顯卡每小時消耗6.991計(jì)算時，如果不關(guān)機(jī)持續(xù)使用大概可以使用30天。
數(shù)據(jù)集是可選的，如果想閑時關(guān)機(jī)建議使用數(shù)據(jù)集，可以把數(shù)據(jù)保存，不然每次關(guān)機(jī)后啟動都得重新部署。
選擇鏡像 URL，填入與地區(qū)對應(yīng)的鏡像地址。
杭州地域：dsw-registry-vpc.cn-hangzhou.cr.aliyuncs.com/cloud-dsw/eas-service:aigc-torch113-cu117-ubuntu22.04-v0.2.1_accelerated
北京地域：dsw-registry-vpc.cn-beijing.cr.aliyuncs.com/cloud-dsw/eas-service:aigc-torch113-cu117-ubuntu22.04-v0.2.1_accelerated
上海地域：dsw-registry-vpc.cn-shanghai.cr.aliyuncs.com/cloud-dsw/eas-service:aigc-torch113-cu117-ubuntu22.04-v0.2.1_accelerated
深圳地域：dsw-registry-vpc.cn-shenzhen.cr.aliyuncs.com/cloud-dsw/eas-service:aigc-torch113-cu117-ubuntu22.04-v0.2.1_accelerated
然后點(diǎn)擊下一步，耐心等待實(shí)例創(chuàng)建，這個過程還是比較耗時的。
部署 MOSS
實(shí)例創(chuàng)建成功后，點(diǎn)擊打開，進(jìn)入控制臺。
進(jìn)入下面這個頁面后，點(diǎn)擊 “Terminal” 進(jìn)入命令行。
1、下載倉庫內(nèi)容到本地
# git clone ``https://github.com/OpenLMLab/MOSS.git
2、進(jìn)入MOSS文件夾
# cd MOSS
3、修改 requirements.txt
torch==1.10.1 改為 torch==1.13.1
4、安裝依賴
# pip install -r requirements.txt
5、修改moss_cli_demo.py文件第 31 至 33 行
model = load_checkpoint_and_dispatch(
raw_model, model_path, device_map="auto", no_split_module_classes=["MossBlock"], dtype=torch.float16, max_memory={0: "18GiB", "cpu": "26GiB"}
)
6、啟動服務(wù)，第一次啟動需要下載模型，耐心等待
# python moss_cli_demo.py
等待一段時間后，出現(xiàn)以下對話框就是安裝成功了，你就可以跟MOSS對話啦~
總結(jié)
MOSS 的公開無異于宣告與百度對話模型的“正面競爭”，這場人工智能的“決戰(zhàn)”注定轟動一時。未來幾個月， ChatGPT 式對話產(chǎn)品將在中國大行其道，而 MOSS 和“文心一言”的 PK 則成為行業(yè)和公眾最關(guān)心的話題。這場競賽的結(jié)果，將對中國在人工智能領(lǐng)域的地位產(chǎn)生重大影響。人工智能時代的創(chuàng)新,正在以前所未有的速度在中國大陸蔓延。文章來源：http://www.zghlxwxcb.cn/news/detail-462955.html
MOSS 和“文心一言”的競逐，只是 AI 產(chǎn)業(yè)發(fā)展的序章。隨著競爭不斷升級，未來的 AI 產(chǎn)品將更加智能，技術(shù)創(chuàng)新更加頻繁。中國終將在這場科技革命的浪潮中，占領(lǐng)一席之地。文章來源地址http://www.zghlxwxcb.cn/news/detail-462955.html
到了這里，關(guān)于免費(fèi)部署一個開源大模型 MOSS的文章就介紹完了。如果您還想了解更多內(nèi)容，請?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
