前言
近日，百度智能云宣布面向企業(yè)和個(gè)人客戶開放文心千帆大模型平臺(tái)公有版測(cè)試服務(wù)，這標(biāo)志著全球首個(gè)一站式企業(yè)級(jí)大模型平臺(tái)正式迎來(lái)公眾體驗(yàn)。文心千帆旨在為用戶提供大模型訓(xùn)練及推理的全流程工具鏈和整套環(huán)境，讓客戶以最簡(jiǎn)單最高效的方式使用和應(yīng)用大模型。于是，我迫不及待地申請(qǐng)了文心千帆的測(cè)試服務(wù)，在本篇文章中，我將給大家?guī)?lái)我對(duì)文心千帆的使用感受以及對(duì)其中強(qiáng)大功能的介紹。
文心千帆的申請(qǐng)和使用感受
1.1 注冊(cè)流程簡(jiǎn)單
申請(qǐng)文心千帆測(cè)試服務(wù)非常簡(jiǎn)單，作為對(duì)人工智能技術(shù)充滿好奇的我，第一時(shí)間前往官方申請(qǐng)地址申請(qǐng)資格。申請(qǐng)流程十分簡(jiǎn)單，只需填寫一些基本信息，選擇測(cè)試版本和使用目的，然后提交申請(qǐng)即可。不久后，我便收到了測(cè)試資格，并立刻開始了我的文心千帆之旅。
經(jīng)過一天的等待，我的申請(qǐng)通過了，我收到了文心千帆平臺(tái)的測(cè)試賬號(hào)和相關(guān)憑證。接著，我下載了百度提供的SDK和API文檔，開始了對(duì)文心千帆大模型平臺(tái)的測(cè)試和開發(fā)工作。
登錄文心千帆平臺(tái)后，我被它簡(jiǎn)潔直觀的界面所吸引。在左側(cè)，是一欄清晰的文檔目錄，展示了所有可用的插件和預(yù)置模型，右側(cè)則是內(nèi)容展示區(qū)域，這種布局使得查找和管理模型變得非常便捷。
1.2 試用初體驗(yàn)
首先我在后臺(tái)創(chuàng)建了應(yīng)用：海擁-AI
然后來(lái)到文心千帆的操作臺(tái)，先嘗試了大模型服務(wù)中的"在線測(cè)試"。我讓它用python幫我寫一個(gè)猜數(shù)字的游戲，響應(yīng)速度很快。
然后我拿著代碼去VS code 測(cè)試了一下，如下圖
可以完美運(yùn)行，就是代碼縮進(jìn)需要修改一下。
隨后，我又問了一些其他的問題，無(wú)論是進(jìn)行智能問答、內(nèi)容創(chuàng)作還是代碼編寫，文心一言都給出了非常專業(yè)并且精準(zhǔn)的回答。
二、文心千帆大模型平臺(tái)功能介紹
2.1 強(qiáng)大的對(duì)話式語(yǔ)言模型
文心千帆大模型平臺(tái)提供了強(qiáng)大的對(duì)話式語(yǔ)言模型，它可以通過自然語(yǔ)言交互的形式，根據(jù)用戶的指令，完成問答、文本創(chuàng)作、代碼查錯(cuò)等各種任務(wù)。這種對(duì)話式語(yǔ)言模型讓我驚嘆不已，它的應(yīng)用場(chǎng)景非常廣泛，可以幫助企業(yè)和個(gè)人快速構(gòu)建智能化的應(yīng)用和服務(wù)。
2.2 豐富的應(yīng)用場(chǎng)景
文心千帆大模型平臺(tái)的應(yīng)用場(chǎng)景非常豐富。我發(fā)現(xiàn)它可以應(yīng)用于搜索和數(shù)據(jù)分析領(lǐng)域，根據(jù)用戶的查詢，自動(dòng)搜索和分析相關(guān)的數(shù)據(jù)，并以圖表或文本的形式呈現(xiàn)給用戶。同時(shí)，它還可以在程序生成和分析方面發(fā)揮作用，根據(jù)用戶的描述或示例，自動(dòng)生成或修改相應(yīng)的代碼，并對(duì)代碼進(jìn)行檢查和優(yōu)化，比如Python、Java、C++等。此外，文心千帆還支持內(nèi)容創(chuàng)作，可以根據(jù)用戶的需求和喜好，自動(dòng)創(chuàng)作各種類型和形式的內(nèi)容，比如音樂、視頻、圖片等。總之，文心千帆大模型平臺(tái)的功能非常強(qiáng)大，讓人眼花繚亂。在各個(gè)不同行業(yè)，不同領(lǐng)域，文心千帆大模型平臺(tái)的應(yīng)用都能帶來(lái)巨大的價(jià)值和便利。
三、如何使用 API
3.1 API 列表
ERNIE-Bot
ERNIE-Bot是百度自行研發(fā)的大語(yǔ)言模型，覆蓋海量中文數(shù)據(jù)，具有更強(qiáng)的對(duì)話問答、內(nèi)容創(chuàng)作生成等能力。
ERNIE-Bot-turbo
ERNIE-Bot-turbo是百度自行研發(fā)的大語(yǔ)言模型，覆蓋海量中文數(shù)據(jù)，具有更強(qiáng)的對(duì)話問答、內(nèi)容創(chuàng)作生成等能力，響應(yīng)速度更快。
BLOOMZ-7B
BLOOMZ-7B是業(yè)內(nèi)知名的大語(yǔ)言模型，由Hugging Face研發(fā)并開源，能夠以46種語(yǔ)言和13種編程語(yǔ)言輸出文本。
Embedding-V1
Embedding-V1是基于百度文心大模型技術(shù)的文本表示模型，將文本轉(zhuǎn)化為用數(shù)值表示的向量形式，用于文本檢索、信息推薦、知識(shí)挖掘等場(chǎng)景。
Prompt模板
Prompt工程指針對(duì)于Prompt進(jìn)行結(jié)構(gòu)、內(nèi)容等維度進(jìn)行優(yōu)化的AI技術(shù)，它把大模型的輸入限定在了一個(gè)特定的范圍之中，進(jìn)而更好地控制模型的輸出。
3.2 API 調(diào)用基本流程
3.2.1 創(chuàng)建智能云應(yīng)用
首先，我們需要在控制臺(tái)中創(chuàng)建應(yīng)用，這里我在一開始就創(chuàng)建了一個(gè)名為”海擁-AI“的應(yīng)用。創(chuàng)建好應(yīng)用后，保存AppID、API Key、Secret Key，后面我們需要用到。
3.2.2 服務(wù)授權(quán)
應(yīng)用創(chuàng)建后，選擇對(duì)應(yīng)授權(quán)的公有云服務(wù)。
3.2.3 獲取訪問憑證
根據(jù)第一步中獲取的API Key、Secret Key，獲取access_token。更多詳情方法可參考 鑒權(quán)認(rèn)證機(jī)制?；騾⒖家韵耤url命令向鑒權(quán)服務(wù)器請(qǐng)求access_token。
# 填充API Key與Secret Key
curl https://aip.baidubce.com/oauth/2.0/token?grant_type=client_credentials&client_id=【API Key】&client_secret=【Secret Key】
注意：access_token默認(rèn)有效期30天，生產(chǎn)環(huán)境注意及時(shí)刷新。
3.2.4 調(diào)用API接口
請(qǐng)求示例
請(qǐng)求數(shù)據(jù)（body）
生成的代碼（Python）：
import requests
import json
API_KEY = "cEZ2lRZ*******jKEmlyxk"
SECRET_KEY = "H4WLr8djnL*******M5jMZjmi"
def main():
url = "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions?access_token=" + get_access_token()
payload = json.dumps({
"messages": [
{
"role": "user",
"content": "介紹一下你自己"
},
{
"role": "assistant",
"content": "您好，我是文心一言，英文名是ERNIE Bot。我能夠與人對(duì)話互動(dòng)，回答問題，協(xié)助創(chuàng)作，高效便捷地幫助人們獲取信息、知識(shí)和靈感。"
}
]
})
headers = {
'Content-Type': 'application/json'
}
response = requests.request("POST", url, headers=headers, data=payload)
print(response.text)
def get_access_token():
"""
使用 AK，SK 生成鑒權(quán)簽名（Access Token）
:return: access_token，或是None(如果錯(cuò)誤)
"""
url = "https://aip.baidubce.com/oauth/2.0/token"
params = {"grant_type": "client_credentials", "client_id": API_KEY, "client_secret": SECRET_KEY}
return str(requests.post(url, params=params).json().get("access_token"))
if __name__ == '__main__':
main()
對(duì)話展示
四、Prompt 工程（如何在文心一言中限制問題范圍）
有些企業(yè)在接入文心一言時(shí)，可能希望限制文心回復(fù)的問題范圍，以確保用戶獲得的答案與公司相關(guān)。這個(gè)問題是值得考慮的，而文心千帆大模型平臺(tái)提供了相應(yīng)的解決方案。
4.1 什么是 Prompt
Prompt 也叫提示詞，簡(jiǎn)單的理解成它是給大模型的指令。它可以是一個(gè)問題、一段文字描述，甚至可以是帶有一堆參數(shù)的文字描述。大模型會(huì)基于 prompt 所提供的信息，生成對(duì)應(yīng)的文本或者圖片。
Prompt工程的作用，就是通過提供清晰和具體的指令，引導(dǎo)模型輸出生成高相關(guān)、高準(zhǔn)確且高質(zhì)量的文本對(duì)答內(nèi)容，屬于自然語(yǔ)言處理領(lǐng)域突破的重要工程。
4.2 Prompt模板的使用
4.2.1 創(chuàng)建Prompt模板
在 Prompt 模板界面，選擇“創(chuàng)建Prompt模板”按鈕。填好模版名稱后，模板標(biāo)簽可選，模版內(nèi)容可以直接填入引用的內(nèi)容，也可以用“{}”注入變量。
4.2.2 操作Prompt模板
在Prompt模板列表中可對(duì)指定模版進(jìn)行如下操作：
- 編輯：重新編輯Prompt模板內(nèi)容，包括模型名稱、標(biāo)簽和內(nèi)容?？刹榭磩?chuàng)建Prompt模板相關(guān)內(nèi)容。
- 刪除：刪除Prompt模板，一旦刪除不可恢復(fù)。
- 復(fù)制ID：復(fù)制Prompt模版的ID，可以在后續(xù)API中或者檢索備份中留有標(biāo)識(shí)認(rèn)證。
4.2.3 引用Prompt模板
Prompt 模版可以直接在預(yù)測(cè)服務(wù)測(cè)試中進(jìn)行實(shí)現(xiàn)
在線測(cè)試支持測(cè)試工作臺(tái)選擇服務(wù)和應(yīng)用進(jìn)行參數(shù)配置，輸入或引用prompt模板進(jìn)行輸入，完成測(cè)試。
檢索需要引用的prompt模板，點(diǎn)擊“引用”按鈕，對(duì)于無(wú)變量設(shè)置的prompt模板，會(huì)直接輸入，對(duì)于有變量設(shè)置的prompt模板需要輸入變量才可進(jìn)行驗(yàn)證，如下圖所示:
部分或全部變量輸出完成之后，點(diǎn)擊“確定”即可引入模版至對(duì)話框。
通過文心千帆平臺(tái)的 Prompt 功能，企業(yè)可以根據(jù)自己的需求，定制微調(diào)大模型，從而獲取面向特定場(chǎng)景更精準(zhǔn)的輸出。在具體操作上，企業(yè)可以提供更多專屬行業(yè)場(chǎng)景的數(shù)據(jù)，讓模型在特定領(lǐng)域中進(jìn)行微調(diào)，從而限制回復(fù)問題的范圍。這種個(gè)性化的微調(diào)可以讓文心一言更好地滿足企業(yè)的需求，并提供與公司相關(guān)的答案，確保用戶獲得最準(zhǔn)確的信息。
五、百度文心一言與 ChatGPT 的對(duì)比
文心一言作為百度文心大模型的官方服務(wù)平臺(tái)，在與ChatGPT進(jìn)行對(duì)比時(shí)，有幾個(gè)方面值得關(guān)注。
- 在發(fā)布文心一言時(shí)，與ChatGPT相比的差距大約是兩個(gè)月。然而，隨著不斷的技術(shù)創(chuàng)新和用戶反饋，文心一言不斷迎頭趕上，目前的效果已經(jīng)與ChatGPT接近，甚至超越了早期版本的ChatGPT。
- 在中文知識(shí)領(lǐng)域，國(guó)內(nèi)模型明顯優(yōu)于國(guó)際模型。文心一言在中文處理上更加懂得中國(guó)文化和場(chǎng)景，這使得它在中文應(yīng)用方面得分最高。
- 文心千帆團(tuán)隊(duì)在技術(shù)創(chuàng)新方面不斷努力，不僅有監(jiān)督精調(diào)、人類反饋的強(qiáng)化學(xué)習(xí)等前三項(xiàng)大模型關(guān)鍵技術(shù)，還不斷探索知識(shí)增強(qiáng)、檢索增強(qiáng)和對(duì)話增強(qiáng)等新技術(shù)，使文心一言的效果和應(yīng)用場(chǎng)景逐步提升。
六、文心大模型3.5的升級(jí)和功能改進(jìn)
文心大模型3.5相比3.0版本有多個(gè)方面的升級(jí)和功能改進(jìn)，這些改進(jìn)使得文心大模型在效果、功能和性能上全面提升。
首先文心大模型3.5新增了插件機(jī)制，通過插件方式擴(kuò)增了大模型的能力邊界。內(nèi)置的插件"百度搜索"使文心一言具備實(shí)時(shí)準(zhǔn)確信息的能力，而長(zhǎng)文本摘要和問答插件"ChatFile"則支持超長(zhǎng)文本輸入。未來(lái)，文心一言將繼續(xù)發(fā)布更多優(yōu)質(zhì)的官方和第三方插件，幫助開發(fā)者基于文心大模型打造更多個(gè)性化的應(yīng)用。
另外，文心大模型3.5在技術(shù)方面進(jìn)行了多方面優(yōu)化。在基礎(chǔ)模型訓(xùn)練中，采用了飛槳最先進(jìn)的自適應(yīng)混合并行訓(xùn)練技術(shù)和混合精度計(jì)算策略，大大加快了模型的迭代速度，提升了效果和安全性。同時(shí)，文心千帆團(tuán)隊(duì)創(chuàng)新了多類型多階段有監(jiān)督精調(diào)、多層次多粒度獎(jiǎng)勵(lì)模型、多損失函數(shù)混合優(yōu)化策略等技術(shù)，進(jìn)一步提升模型的效果和場(chǎng)景適配能力。
文心大模型3.5在推理方面也進(jìn)行了優(yōu)化，通過邏輯數(shù)據(jù)構(gòu)建、邏輯知識(shí)建模、粗粒度與細(xì)粒度語(yǔ)義知識(shí)組合以及符號(hào)神經(jīng)網(wǎng)絡(luò)技術(shù)，顯著提升了在邏輯推理、數(shù)學(xué)計(jì)算和代碼生成等任務(wù)上的表現(xiàn)。
總的來(lái)說，文心大模型3.5的升級(jí)和功能改進(jìn)使得它的訓(xùn)練速度提升了2倍，推理速度提升了17倍，大大提高了模型的迭代升級(jí)效率，降低了訓(xùn)練和使用成本，并進(jìn)一步提升了用戶體驗(yàn)。
七、總結(jié)
文心千帆大模型平臺(tái)的公有版測(cè)試服務(wù)為企業(yè)和個(gè)人提供了強(qiáng)大的對(duì)話式語(yǔ)言模型，支持豐富的應(yīng)用場(chǎng)景，尤其在金融行業(yè)的應(yīng)用潛力巨大。通過微調(diào)大模型，企業(yè)可以限制文心一言的問題范圍，讓回復(fù)更加精準(zhǔn)。與ChatGPT的對(duì)比顯示，文心一言在中文應(yīng)用方面具有優(yōu)勢(shì)，而在技術(shù)方面不斷進(jìn)行創(chuàng)新和改進(jìn)，使其效果不斷提升。文心大模型3.5的升級(jí)和功能改進(jìn)讓它在效果、功能和性能上全面提升，為用戶帶來(lái)更好的體驗(yàn)。通過合理應(yīng)用和選擇大模型，企業(yè)可以為自己的產(chǎn)品和服務(wù)賦能，迎接人工智能技術(shù)帶來(lái)的變革。
我相信，隨著文心千帆的持續(xù)技術(shù)創(chuàng)新和不斷擴(kuò)展的插件生態(tài)，更多企業(yè)和個(gè)人將能夠在智能大模型時(shí)代發(fā)現(xiàn)新的商機(jī)和應(yīng)用可能性。文心千帆無(wú)疑將在推動(dòng)人工智能的發(fā)展進(jìn)程中發(fā)揮巨大的作用，實(shí)現(xiàn)更廣泛的智能化應(yīng)用，為用戶帶來(lái)更好的體驗(yàn)和服務(wù)。文章來(lái)源：http://www.zghlxwxcb.cn/news/detail-601709.html
如果你對(duì)人工智能和大模型感興趣，不妨申請(qǐng)?jiān)囉梦男那Х?，親自體驗(yàn)其強(qiáng)大功能和無(wú)限可能。文心千帆的開放將為你帶來(lái)一場(chǎng)智能化的探索之旅，讓我們一起見證人工智能的未來(lái)！文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-601709.html
到了這里，關(guān)于體驗(yàn)文心千帆：開啟智能大模型時(shí)代的新征程的文章就介紹完了。如果您還想了解更多內(nèi)容，請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！
