在本文中,可以將自己的數(shù)據(jù)與 Azure OpenAI 模型配合使用。 對(duì)數(shù)據(jù)使用 Azure OpenAI 模型可以提供功能強(qiáng)大的對(duì)話 AI 平臺(tái),從而實(shí)現(xiàn)更快、更準(zhǔn)確的通信。
關(guān)注TechLead,分享AI全維度知識(shí)。作者擁有10+年互聯(lián)網(wǎng)服務(wù)架構(gòu)、AI產(chǎn)品研發(fā)經(jīng)驗(yàn)、團(tuán)隊(duì)管理經(jīng)驗(yàn),同濟(jì)本復(fù)旦碩,復(fù)旦機(jī)器人智能實(shí)驗(yàn)室成員,阿里云認(rèn)證的資深架構(gòu)師,項(xiàng)目管理專(zhuān)業(yè)人士,上億營(yíng)收AI產(chǎn)品研發(fā)負(fù)責(zé)人文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-757017.html
環(huán)境準(zhǔn)備
-
Azure 訂閱 - 免費(fèi)創(chuàng)建訂閱。
-
已在所需的 Azure 訂閱中授予對(duì) Azure OpenAI 的訪問(wèn)權(quán)限。
Azure OpenAI 服務(wù)需要注冊(cè),并且目前僅供經(jīng)批準(zhǔn)的企業(yè)客戶(hù)與合作伙伴使用。
-
已部署聊天模型的 Azure OpenAI 資源(例如 GPT-3 或 GPT-4)。
-
聊天模型可以使用版本
gpt-35-turbo (0301)
、gpt-35-turbo-16k
、gpt-4
和gpt-4-32k
。 -
請(qǐng)確保至少為 Azure OpenAI 資源分配了[認(rèn)知服務(wù)參與者]角色。
使用 Azure OpenAI Studio 添加數(shù)據(jù)
導(dǎo)航到 Azure OpenAI Studio,然后使用有權(quán)訪問(wèn) Azure OpenAI 資源的憑據(jù)登錄。 在登錄過(guò)程中或登錄之后,選擇適當(dāng)?shù)哪夸洝zure 訂閱和 Azure OpenAI 資源。
- 選擇“Chat Playground”磁貼。
- 在“助手設(shè)置”磁貼上,選擇“添加數(shù)據(jù)(預(yù)覽)”>“+ 添加數(shù)據(jù)源”。
- 在顯示的窗格中,選擇“選擇數(shù)據(jù)源”下的“上傳文件”。 選擇“上傳文件”。 Azure OpenAI 需要存儲(chǔ)資源和搜索資源來(lái)訪問(wèn)數(shù)據(jù)并編制數(shù)據(jù)索引。
3.1. 要使 Azure OpenAI 訪問(wèn)存儲(chǔ)帳戶(hù),需要啟用跨原點(diǎn)資源共享 (CORS)。 如果尚未為 Azure Blob 存儲(chǔ)資源啟用 CORS,請(qǐng)選擇“啟用 CORS”。
3.2. 選擇 Azure AI 搜索資源,然后選擇確認(rèn)以表明知曉連接該資源將使用你的帳戶(hù)。 然后,選擇“下一步”。
-
在“上傳文件”窗格中,選擇“瀏覽文件”,并選擇要上傳的文件。 然后選擇“上傳文件”。 然后,選擇“下一步”。
-
在“數(shù)據(jù)管理”窗格中,可以選擇為索引啟用[語(yǔ)義搜索還是向量搜索]。
-
查看輸入的詳細(xì)信息,然后選擇“保存并關(guān)閉”。 現(xiàn)在,你可以與模型聊天,模型將使用數(shù)據(jù)中的信息來(lái)構(gòu)造響應(yīng)。
Chat Playground
通過(guò)Chat Playground使用開(kāi)始使用無(wú)代碼方法瀏覽 Azure OpenAI 功能。 這是一個(gè)簡(jiǎn)單的文本框,可以在其中提交提示以生成補(bǔ)全內(nèi)容。 在此頁(yè)中,可以快速循環(huán)訪問(wèn)和試驗(yàn)這些功能。
可以試驗(yàn)溫度和預(yù)響應(yīng)文本等配置設(shè)置,以提高任務(wù)的性能。 可以在 [REST API]中詳細(xì)了解每個(gè)參數(shù)。
- 選擇“生成”按鈕后會(huì)將輸入的文本發(fā)送到補(bǔ)全 API,并將結(jié)果流式傳輸回到文本框中。
- 選擇“撤消”按鈕可以撤消上一次生成調(diào)用。
- 選擇“重新生成”按鈕可以同時(shí)執(zhí)行撤消和生成調(diào)用。
部署模型
對(duì) Azure OpenAI 工作室中的體驗(yàn)感到滿(mǎn)意后,可以通過(guò)選擇“部署到”按鈕直接從工作室部署 Web 應(yīng)用。
這讓你可以選擇將模型部署為獨(dú)立的 Web 應(yīng)用程序,或者如果要在模型上使用[你自己的數(shù)據(jù)],則可以使用 Power Virtual Agents。
例如,如果選擇部署 Web 應(yīng)用:
首次部署 Web 應(yīng)用時(shí),應(yīng)選擇“創(chuàng)建新的 Web 應(yīng)用”。 為應(yīng)用選擇一個(gè)名稱(chēng),該名稱(chēng)將成為應(yīng)用 URL 的一部分。 例如,https://<appname>.azurewebsites.net
。
為已發(fā)布的應(yīng)用選擇訂閱、資源組、位置和定價(jià)計(jì)劃。 要更新現(xiàn)有應(yīng)用,請(qǐng)選擇“發(fā)布到現(xiàn)有 Web 應(yīng)用”,然后從下拉菜單中選擇上一個(gè)應(yīng)用的名稱(chēng)。
使用Python調(diào)用
要成功地對(duì) Azure OpenAI 進(jìn)行調(diào)用,需要使用以下變量。 本快速入門(mén)假定已將數(shù)據(jù)上傳到 Azure Blob 存儲(chǔ)帳戶(hù),并且已創(chuàng)建 Azure AI 搜索索引。
變量名稱(chēng) | 值 |
---|---|
AOAIEndpoint |
在從 Azure 門(mén)戶(hù)檢查 Azure OpenAI 資源時(shí),可在“密鑰 & 終結(jié)點(diǎn)”部分中找到此值。 也可在“Azure AI 工作室”>“聊天操場(chǎng)”>“代碼視圖”中查找該值。 示例終結(jié)點(diǎn)為:https://my-resoruce.openai.azure.com 。 |
AOAIKey |
在 Azure 門(mén)戶(hù)檢查 Azure OpenAI 資源時(shí),可在“資源管理>密鑰 & 終結(jié)點(diǎn)”部分中找到此值。 可以使用 KEY1 或 KEY2 。 始終準(zhǔn)備好兩個(gè)密鑰可以安全地輪換和重新生成密鑰,而不會(huì)導(dǎo)致服務(wù)中斷。 |
AOAIDeploymentId |
此值將對(duì)應(yīng)于在部署模型時(shí)為部署選擇的自定義名稱(chēng)。 可在 Azure 門(mén)戶(hù)中的“資源管理”>“部署”下,或者在 Azure AI 工作室中的“管理”>“部署”下查找此值。 |
SearchEndpoint |
在 Azure 門(mén)戶(hù)檢查 Azure AI 搜索資源時(shí),可在“概覽”部分中找到此值。 |
SearchKey |
在 Azure 門(mén)戶(hù)檢查 Azure AI 搜索資源時(shí),可在“設(shè)置>密鑰”部分中找到此值。 你可以使用主要管理密鑰或輔助管理密鑰。 始終準(zhǔn)備好兩個(gè)密鑰可以安全地輪換和重新生成密鑰,而不會(huì)導(dǎo)致服務(wù)中斷。 |
SearchIndex |
此值對(duì)應(yīng)于為存儲(chǔ)數(shù)據(jù)而創(chuàng)建的索引的名稱(chēng)。 在從 Azure 門(mén)戶(hù)檢查 Azure AI 搜索資源時(shí),可以在“概述”部分找到它。 |
環(huán)境變量
- [命令行]
setx AOAIEndpoint REPLACE_WITH_YOUR_AOAI_ENDPOINT_VALUE_HERE
setx AOAIKey REPLACE_WITH_YOUR_AOAI_KEY_VALUE_HERE
setx AOAIDeploymentId REPLACE_WITH_YOUR_AOAI_DEPLOYMENT_VALUE_HERE
setx SearchEndpoint REPLACE_WITH_YOUR_AZURE_SEARCH_RESOURCE_VALUE_HERE
setx SearchKey REPLACE_WITH_YOUR_AZURE_SEARCH_RESOURCE_KEY_VALUE_HERE
setx SearchIndex REPLACE_WITH_YOUR_INDEX_NAME_HERE
創(chuàng)建 Python 環(huán)境
- 為項(xiàng)目新建一個(gè)名為 openai-pytho 的文件夾,并且新建一個(gè)名為 main.py 的 Python 代碼文件。 更改到該目錄:
mkdir openai-python
cd openai-python
- 安裝以下 Python 庫(kù):
- [OpenAI Python 1.x]
pip install openai
pip install python-dotenv
創(chuàng)建 Python 應(yīng)用
- 從項(xiàng)目目錄中,打開(kāi) main.py 文件并添加以下代碼:
- [OpenAI Python 1.x]
import os
import openai
import dotenv
dotenv.load_dotenv()
endpoint = os.environ.get("AOAIEndpoint")
api_key = os.environ.get("AOAIKey")
deployment = os.environ.get("AOAIDeploymentId")
client = openai.AzureOpenAI(
base_url=f"{endpoint}/openai/deployments/{deployment}/extensions",
api_key=api_key,
api_version="2023-08-01-preview",
)
completion = client.chat.completions.create(
model=deployment,
messages=[
{
"role": "user",
"content": "How is Azure machine learning different than Azure OpenAI?",
},
],
extra_body={
"dataSources": [
{
"type": "AzureCognitiveSearch",
"parameters": {
"endpoint": os.environ["SearchEndpoint"],
"key": os.environ["SearchKey"],
"indexName": os.environ["SearchIndex"]
}
}
]
}
)
print(completion.model_dump_json(indent=2))
- 運(yùn)行以下命令:
python main.py
應(yīng)用程序以適合在許多場(chǎng)景下使用的 JSON 格式打印響應(yīng)。 它包含對(duì)來(lái)自已上傳文件的查詢(xún)和引文的答案。文章來(lái)源:http://www.zghlxwxcb.cn/news/detail-757017.html
關(guān)注TechLead,分享AI全維度知識(shí)。作者擁有10+年互聯(lián)網(wǎng)服務(wù)架構(gòu)、AI產(chǎn)品研發(fā)經(jīng)驗(yàn)、團(tuán)隊(duì)管理經(jīng)驗(yàn),同濟(jì)本復(fù)旦碩,復(fù)旦機(jī)器人智能實(shí)驗(yàn)室成員,阿里云認(rèn)證的資深架構(gòu)師,項(xiàng)目管理專(zhuān)業(yè)人士,上億營(yíng)收AI產(chǎn)品研發(fā)負(fù)責(zé)人
到了這里,關(guān)于Azure Machine Learning - 使用自己的數(shù)據(jù)與 Azure OpenAI 模型對(duì)話的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!