百度智能云千帆大模型平臺再次升級！在原有API基礎上，百度智能云正式上線Python SDK（下文均簡稱千帆 SDK）版本并全面開源，企業(yè)和開發(fā)者可免費下載使用！千帆SDK全面覆蓋從數據集管理，模型訓練，模型評估，到服務部署等方面的功能，用戶可基于千帆SDK通過代碼接入并調用百度智能云千帆大模型平臺的能力，輕松實現(xiàn)LLMOps全流程的落地，快速構建自己的大語言模型應用。
一、SDK的優(yōu)勢
SDK當前主要的價值在于可快速使用API能力，并完善API使用的周邊工具鏈，同時提供cookbook用于實踐。
1、快速使用API能力，不需要自己實現(xiàn)http客戶端以及鑒權邏輯；并在此基礎上做了可配置重試，流量控制，提升了API功能的使用體驗。
2、結合實際的案例和應用場景提供了響應的cookbook，幫助用戶快速上手，甚至復用大部分已實現(xiàn)代碼。
3、拓展了LLM應用的基礎能力，例如結合LLM應用層常見的Agent等概念進行了封裝，提供了基于Agent的應用模板類。
二、千帆SDK：快速落地LLM應用
千帆SDK支持對話補全、續(xù)寫補全、語義向量、插件、文生圖等一系列功能，幫助用戶輕松完成應用開發(fā)。
- 對話補全（ChatCompletion）：對話模型是語言模型的一種變體。雖然在內部使用了語言模型，但它們所提供的接口有些不同。適用于對話生成，智能問答等場景。
- 續(xù)寫補全（Completion）：語言模型提供了基本的續(xù)寫能力，結合豐富的訓練語料，非常適合于文檔報告編寫，內容創(chuàng)作等場景。
- 語義向量（Embedding）：百度智能云千帆大模型平臺在提供大模型對話續(xù)寫能力的同時，應對于常見的文本檢索，知識庫查詢等場景，也推出了文本轉化成向量的能力。
- 插件應用（Plugin）：為了填補大模型對于獲取實時信息，多模態(tài)，垂直領域知識問答等場景的能力空白，百度智能云千帆大模型平臺推出了常用的幾種插件應用，包括百度搜索，知識庫，天氣查詢，智慧圖問等幾個插件應用。用戶可以通過大模型的決策能力進行問答文本到插件應用調用的轉化，也可以直接調用插件應用以獲取相應的數據。
- 文生圖（Text2Image）：基于開源的StableDiffusion等開源多模態(tài)大模型的基礎上，百度智能云千帆大模型平臺推出了一系列預置的文生圖模型，用戶也可以通過SDK快速調用，進行圖文創(chuàng)作。
三、如何快速上手千帆SDK
百度智能云千帆大模型平臺為用戶提供了詳細的操作手冊，包括SDK快速啟動、大模型開發(fā)基礎功能快速入門和Langchain接入方法，用戶可通過以下步驟更加快速的使用千帆SDK。
1、SDK快速啟動
在該模塊，我們通過必要快速上手步驟，以及以Chat對話為調用示例，介紹了如何快速進入LLM的應用開發(fā)。
快速安裝
目前千帆SDK已發(fā)布到PyPI，用戶可使用pip命令進行安裝。安裝千帆SDK需要3.7.0或更高的Python版本。
平臺鑒權
千帆SDK基于百度智能云千帆大模型平臺對用戶提供能力，因此在使用前需要用戶使用平臺指定的鑒權方式進行初始化。
如何獲取AK/SK
用戶可首先進行應用接入，獲得AK/SK。
獲取到AK和SK后，用戶還需要傳遞它們來初始化千帆SDK，支持如下兩種方式，按優(yōu)先級從低到高排序：
以“Chat 對話”為調用示例
用戶只需要提供預期使用的模型名稱和對話內容，即可調用百度智能云千帆大模型平臺支持的包括ERNIE-Bot在內的所有預置模型，如下所示：
2. SDK進階指引
對于對模型有微調訓練需求的用戶，千帆SDK提供了模型訓練和管理的能力。
- 大模型訓練：百度智能云千帆大模型平臺提供了高性能的訓練，模型微調能力，可以快速的進行訓練任務下發(fā)和管理。
- 大模型管理：主要用于自定義模型的管理和發(fā)布。
- 大模型服務：千帆平臺提供了基礎的大模型運行環(huán)境，用戶可以一鍵式發(fā)布自己的模型服務。
3. 通過Langchain接入千帆SDK
為什么選擇Langchain
Langchain是可以幫助用戶快速構建從原型到生產的LLM應用的框架。其封裝了包括LLM，Embedding，Chain，Agent，Tool等一系列抽象的LLM應用組件，在其開源社區(qū)成員的不斷貢獻下集成了當前大部分主流的大語言模型等調用方法，是當前非常流行的開源大模型框架。它開發(fā)效率高，資源配套完善，擁有大量用戶。現(xiàn)在，用戶可以在langchain中通過千帆SDK接入并使用百度智能云千帆大模型平臺的訓練等一系列能力，讓應用場景開發(fā)更輕松、更便捷。
四、開源社區(qū)
千帆SDK已經開源到Github，并將持續(xù)更新迭代，可以關注訂閱開始做自己的大模型應用了。文章來源：http://www.zghlxwxcb.cn/news/detail-751688.html
GIthub Repo：
https://github.com/baidubce/bce-qianfan-sdk
千帆社區(qū)：https://cloud.baidu.com/qianfandev文章來源地址http://www.zghlxwxcb.cn/news/detail-751688.html
到了這里，關于百度智能云正式上線Python SDK版本并全面開源！的文章就介紹完了。如果您還想了解更多內容，請在右上角搜索TOY模板網以前的文章或繼續(xù)瀏覽下面的相關文章，希望大家以后多多支持TOY模板網！
