眾所周知,我們是訪問不通OpenAI官方服務(wù)的,但是我們可以自己通過代理或者使用第三方代理訪問接口
現(xiàn)在新出臺的規(guī)定禁止使用境外的AI大模型接口對境內(nèi)客戶使用,所以我們需要使用國內(nèi)的大模型接口
國內(nèi)的效果真的很差,現(xiàn)在如果想使用GPT大模型,可以使用微軟Azure的OpenAI服務(wù)。
?
負(fù)責(zé)任的AI
在微軟,我們致力于以人為本的原則推動AI的進(jìn)步。生成模型(如Azure OpenAI中可用的模型)具有顯著的潛在優(yōu)勢,但如果沒有仔細(xì)的設(shè)計(jì)和深思熟慮的緩解措施,這樣的模型有可能生成不正確甚至有害的內(nèi)容。微軟已經(jīng)進(jìn)行了大量投資,以幫助防止濫用和意外傷害,其中包括要求申請人展示定義明確的用例,納入微軟負(fù)責(zé)任的AI使用原則,構(gòu)建內(nèi)容過濾器以支持客戶,并為客戶提供負(fù)責(zé)任的AI實(shí)施指導(dǎo)。
微軟在中國是有合規(guī)企業(yè)的,并且數(shù)據(jù)內(nèi)容經(jīng)過了過濾,我們可以考慮平替OpenAI官網(wǎng)服務(wù)
?
Azure GPT接口規(guī)范
我們可以參考下面這個REST接口的調(diào)用參數(shù)
在Azure上創(chuàng)建服務(wù)成功以后,會得到兩個參數(shù)?ENDPOINT 和 API-KEY
聊天補(bǔ)全接口
curl $AZURE_OPENAI_ENDPOINT/openai/deployments/gpt-35-turbo/chat/completions?api-version=2023-05-15 \ -H "Content-Type: application/json" \ -H "api-key: $AZURE_OPENAI_KEY" \ -d '{"messages":[{"role": "system", "content": "You are a helpful assistant."},{"role": "user", "content": "Does Azure OpenAI support customer managed keys?"},{"role": "assistant", "content": "Yes, customer managed keys are supported by Azure OpenAI."},{"role": "user", "content": "Do other Azure Cognitive Services support this too?"}]}'
?
向量轉(zhuǎn)換接口
curl https://YOUR_RESOURCE_NAME.openai.azure.com/openai/deployments/YOUR_DEPLOYMENT_NAME/embeddings?api-version=2023-05-15 \ -H "Content-Type: application/json" \ -H "api-key: YOUR_API_KEY" \ -d "{\"input\": \"The food was delicious and the waiter...\"}"
?
與OpenAI官方的區(qū)別
接口地址不一樣,header參數(shù)里傳遞key的形式也不一樣。
除了這倆點(diǎn),還有一個很重要的事情。
重點(diǎn)注意
大家仔細(xì)看看上面接口地址的url部分,加粗的部分
$AZURE_OPENAI_ENDPOINT/openai/deployments/gpt-35-turbo/chat/completions?api-version=2023-05-15
$AZURE_OPENAI_ENDPOINT/openai/deployments/YOUR_DEPLOYMENT_NAME/embeddings?api-version=2023-05-15
我們需要把大模型部署一下,上面標(biāo)紅的地方,就是部署名稱,所以如果我們想無縫切換OpenAI與微軟Azure OpenAI
我們需要固定好,部署的名稱與模型的名稱保持一致,這樣才能正常調(diào)用
客服系統(tǒng)配置
我們系統(tǒng)已經(jīng)兼容了微軟azure接口:gofly.v1kf.com文章來源:http://www.zghlxwxcb.cn/news/detail-651546.html
前往【菜單】【機(jī)器人設(shè)置】【向量知識庫AI配置】接口地址填入$AZURE_OPENAI_ENDPOINT,接口密鑰填寫key
文章來源地址http://www.zghlxwxcb.cn/news/detail-651546.html
到了這里,關(guān)于通過微軟Azure調(diào)用GPT的接口API-兼容平替OpenAI官方的注意事項(xiàng)的文章就介紹完了。如果您還想了解更多內(nèi)容,請?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!