??作者簡(jiǎn)介：小明java問道之路，2022年度博客之星全國(guó)TOP3，專注于后端、中間件、計(jì)算機(jī)底層、架構(gòu)設(shè)計(jì)演進(jìn)與穩(wěn)定性建設(shè)優(yōu)化，文章內(nèi)容兼具廣度、深度、大廠技術(shù)方案，對(duì)待技術(shù)喜歡推理加驗(yàn)證，就職于知名金融公司后端高級(jí)工程師。
? ? ? ??
?? 熱衷分享，喜歡原創(chuàng)~ 關(guān)注我會(huì)給你帶來一些不一樣的認(rèn)知和成長(zhǎng)。
? ? ? ??
?? 2022博客之星TOP3 | CSDN博客專家 | 后端領(lǐng)域優(yōu)質(zhì)創(chuàng)作者 | CSDN內(nèi)容合伙人
?? InfoQ(極客邦)簽約作者、阿里云專家 | 簽約博主、51CTO專家 | TOP紅人?
本文目錄
本文導(dǎo)讀
一、SDK的優(yōu)勢(shì)
二、千帆SDK：快速落地LLM應(yīng)用
三、如何快速上手千帆SDK
1、SDK快速啟動(dòng)
1.1、快速安裝
1.2、平臺(tái)鑒權(quán)
1.3、獲取AK（Access?Key）/SK（Secret?Access?Key）
?1.4、調(diào)用“Chat 對(duì)話”
2、SDK進(jìn)階指引
3、通過Langchain接入千帆SDK
總結(jié)
?
本文導(dǎo)讀
百度智能云千帆大模型平臺(tái)再次升級(jí)！在原有API基礎(chǔ)上，百度智能云正式上線Python SDK（下文均簡(jiǎn)稱千帆 SDK，千帆SDK已經(jīng)開源到 Github(https://github.com/baidubce/bce-qianfan-sdk)）版本并全面開源，企業(yè)和開發(fā)者可免費(fèi)下載使用！
千帆SDK全面覆蓋從數(shù)據(jù)集管理，模型訓(xùn)練，模型評(píng)估，到服務(wù)部署等方面的功能，開發(fā)者們可基于千帆SDK通過代碼接入并調(diào)用百度智能云千帆大模型平臺(tái)的能力，輕松實(shí)現(xiàn) LLMOps（Large?Language?Model?Operations,是指在大型自然語言模型的開發(fā)、訓(xùn)練、優(yōu)化和部署過程中,需要進(jìn)行的一系列運(yùn)營(yíng)活動(dòng)。）全流程的落地，快速構(gòu)建自己的大語言模型應(yīng)用。??
一、SDK的優(yōu)勢(shì)
?SDK當(dāng)前主要的價(jià)值在于可快速使用API能力，并完善API使用的周邊工具鏈，同時(shí)提供 cookbook用于實(shí)踐。
1、快速使用API能力，不需要自己實(shí)現(xiàn)http客戶端以及鑒權(quán)邏輯；并在此基礎(chǔ)上做了可配置重試，流量控制，提升了API功能的使用體驗(yàn)。
2、結(jié)合實(shí)際的案例和應(yīng)用場(chǎng)景提供了響應(yīng)的 cookbook，幫助開發(fā)者們快速上手，甚至復(fù)用大部分已實(shí)現(xiàn)代碼。
3、拓展了 LLM 應(yīng)用的基礎(chǔ)能力，例如結(jié)合 LLM 應(yīng)用層常見的 Agent 等概念進(jìn)行了封裝，提供了基于Agent的應(yīng)用模板類。
二、千帆SDK：快速落地LLM應(yīng)用
千帆SDK支持對(duì)話補(bǔ)全、續(xù)寫補(bǔ)全、語義向量、插件、文生圖等一系列功能，幫助開發(fā)者們輕松完成應(yīng)用開發(fā)。
對(duì)話補(bǔ)全（ChatCompletion）：對(duì)話模型是語言模型的一種變體。雖然在內(nèi)部使用了語言模型，但它們所提供的接口有些不同。適用于對(duì)話生成，智能問答等場(chǎng)景。
續(xù)寫補(bǔ)全（Completion）：語言模型提供了基本的續(xù)寫能力，結(jié)合豐富的訓(xùn)練語料，非常適合于文檔報(bào)告編寫，內(nèi)容創(chuàng)作等場(chǎng)景。
語義向量（Embedding）：百度智能云千帆大模型平臺(tái)在提供大模型對(duì)話續(xù)寫能力的同時(shí)，應(yīng)對(duì)于常見的文本檢索，知識(shí)庫(kù)查詢等場(chǎng)景，也推出了文本轉(zhuǎn)化成向量的能力。
插件應(yīng)用（Plugin）：為了填補(bǔ)大模型對(duì)于獲取實(shí)時(shí)信息，多模態(tài)，垂直領(lǐng)域知識(shí)問答等場(chǎng)景的能力空白，百度智能云千帆大模型平臺(tái)推出了常用的幾種插件應(yīng)用，包括百度搜索，知識(shí)庫(kù)，天氣查詢，智慧圖問等幾個(gè)插件應(yīng)用。開發(fā)者可以通過大模型的決策能力進(jìn)行問答文本到插件應(yīng)用調(diào)用的轉(zhuǎn)化，也可以直接調(diào)用插件應(yīng)用以獲取相應(yīng)的數(shù)據(jù)。
文生圖（Text2Image）：基于開源的StableDiffusion等開源多模態(tài)大模型的基礎(chǔ)上，百度智能云千帆大模型平臺(tái)推出了一系列預(yù)置的文生圖模型，開發(fā)者們也可以通過SDK快速調(diào)用，進(jìn)行圖文創(chuàng)作。
三、如何快速上手千帆SDK
百度智能云千帆大模型平臺(tái)為開發(fā)者們提供了詳細(xì)的操作手冊(cè)，包括SDK快速啟動(dòng)、大模型開發(fā)基礎(chǔ)功能快速入門和Langchain接入方法，開發(fā)者們可通過以下步驟更加快速的使用千帆SDK。同時(shí)可以查看千帆社區(qū)（https://cloud.baidu.com/qianfandev）的一些入門博客。
1、SDK快速啟動(dòng)
在該模塊，我們通過必要快速上手步驟，以及以Chat對(duì)話為調(diào)用示例，介紹了如何快速進(jìn)入LLM的應(yīng)用開發(fā)。
1.1、快速安裝
目前千帆SDK已發(fā)布到PyPI，開發(fā)者可使用pip命令進(jìn)行安裝。安裝千帆SDK需要3.7.0或更高的Python版本。
?
?
1.2、平臺(tái)鑒權(quán)
千帆SDK基于百度智能云千帆大模型平臺(tái)對(duì)開發(fā)者們提供能力，因此在使用前需要開發(fā)者使用平臺(tái)指定的鑒權(quán)方式進(jìn)行初始化。
1.3、獲取AK（Access?Key）/SK（Secret?Access?Key）
開發(fā)者可首先進(jìn)行應(yīng)用接入，獲得AK/SK。獲取到AK和SK后，開發(fā)者還需要傳遞它們來初始化千帆SDK，支持如下兩種方式，按優(yōu)先級(jí)從低到高排序：
?
?
?1.4、調(diào)用“Chat 對(duì)話”
開發(fā)者們只需要提供預(yù)期使用的模型名稱和對(duì)話內(nèi)容，即可調(diào)用百度智能云千帆大模型平臺(tái)支持的包括ERNIE-Bot在內(nèi)的所有預(yù)置模型，如下所示：
?
?
2、SDK進(jìn)階指引
對(duì)于對(duì)模型有微調(diào)訓(xùn)練需求的開發(fā)者，千帆SDK提供了模型訓(xùn)練和管理的能力。
大模型訓(xùn)練：百度智能云千帆大模型平臺(tái)提供了高性能的訓(xùn)練，模型微調(diào)能力，可以快速的進(jìn)行訓(xùn)練任務(wù)下發(fā)和管理。
大模型管理：主要用于自定義模型的管理和發(fā)布。
大模型服務(wù)：千帆平臺(tái)提供了基礎(chǔ)的大模型運(yùn)行環(huán)境，開發(fā)者可以一鍵式發(fā)布自己的模型服務(wù)。
3、通過Langchain接入千帆SDK
Langchain 是可以幫助開發(fā)者們快速構(gòu)建從原型到生產(chǎn)的LLM應(yīng)用的框架。其封裝了包括LLM，Embedding，Chain，Agent，Tool等一系列抽象的LLM應(yīng)用組件，在其開源社區(qū)成員的不斷貢獻(xiàn)下集成了當(dāng)前大部分主流的大語言模型等調(diào)用方法，是當(dāng)前非常流行的開源大模型框架。
Langchain 開發(fā)效率高，資源配套完善，擁有大量開發(fā)者。現(xiàn)在，開發(fā)者可以在 langchain 中通過千帆SDK接入并使用百度智能云千帆大模型平臺(tái)的訓(xùn)練等一系列能力，讓應(yīng)用場(chǎng)景開發(fā)更輕松、更便捷。
總結(jié)
百度智能云千帆大模型平臺(tái)近期升級(jí)，推出了新的千帆SDK，有助于開發(fā)者們輕松構(gòu)建自己的大語言模型應(yīng)用，并滿足各種自然語言處理需求，本文幫助大家了解和快速入門~文章來源：http://www.zghlxwxcb.cn/news/detail-752192.html
文章來源地址http://www.zghlxwxcb.cn/news/detail-752192.html
到了這里，關(guān)于百度智能云千帆大模型平臺(tái)再升級(jí)，SDK版本開源發(fā)布！的文章就介紹完了。如果您還想了解更多內(nèi)容，請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
