3月16日,微軟發(fā)布了微軟365 Copilot[1]。 Microsoft 365 Copilot 將您現(xiàn)有的 Word、Excel、PowerPoint、Outlook 和 Teams 與大型語言模型 (LLM) 的強(qiáng)大功能以及來自 Microsoft Graph 和 Microsoft 365 應(yīng)用的數(shù)據(jù)相結(jié)合,以創(chuàng)建前所未有的體驗。正如您在官方視頻中看到的那樣,Microsoft 365 Copilot的核心是一個名為Copilot System的編排器。 今天Semantic Kernel 博客上發(fā)布了一篇文章介紹了Copilot 聊天示例程序[2]。 我認(rèn)為很容易從這個Copilot 聊天示例程序開始 實現(xiàn)這樣的一個架構(gòu)。
1、Copilot 系統(tǒng)
讓我們先簡單介紹一下M365 Copilot系統(tǒng)的處理流程。 該系統(tǒng)由Copilot系統(tǒng),Microsoft 365 Apps,Microsoft Graph[3] 和LLM(GPT-4)組成.
Copilot 系統(tǒng)首先接收來自 Microsoft 365 Word、Excel、PowerPoint、Outlook、Teams 等的用戶提示。 這些指令不會作為提示直接發(fā)送到 GPT-4,而是通過 Microsoft Graph 提供必要的上下文。 這稱為接地,如果是電子郵件回復(fù)提示,例如,您的電子郵件帳戶信息。
接地上下文提示通過Copilot系統(tǒng)發(fā)送到LLM。
Copilot 系統(tǒng)接收來自LLM的響應(yīng)并執(zhí)行后處理。 此后處理包括對 Microsoft Graph 的其他調(diào)用、負(fù)責(zé)任的 AI 檢查、安全性、合規(guī)性和隱私審查,以及 Microsoft 365 應(yīng)用交互的命令生成。
已通過后處理步驟的處理結(jié)果和應(yīng)用操作命令將返回到 Microsoft 365 中的調(diào)用應(yīng)用。應(yīng)用交互命令是用于處理添加圖片或調(diào)整 PowerPoint 文本大小等功能的內(nèi)部命令。
2、使用Semantic Kernel實現(xiàn)
在Semantic Kernel的示例中,可以通過內(nèi)置的 Microsoft Graph 連接器在上下文中添加的: 連接器是技能的一部分,您還可以使用Memory函數(shù)從Memory中的鍵值存儲和矢量數(shù)據(jù)庫中檢索和添加內(nèi)存和先驗知識。 當(dāng)然,您可以自己自定義技能和連接器。 還可以將其連接到 Azure 認(rèn)知搜索。
對于 Microsoft 365 應(yīng)用(如商務(wù)聊天)和跨用戶數(shù)據(jù)(日歷、電子郵件、聊天、文檔、會議和聯(lián)系人)工作的應(yīng)用),后端需要一個規(guī)劃器來確定用戶的問題意向,將其分解為任務(wù),并將其與操作相關(guān)聯(lián)。 語義內(nèi)核包括一個計劃器,用于將用戶的復(fù)雜指令分解為任務(wù)。 使用規(guī)劃器將公司系統(tǒng)的每個功能映射到您的技能。
Copilot Chat建立在微軟的Semantic Kernel 之上,允許開發(fā)人員輕松地將大型語言模型(LLM)的強(qiáng)大功能集成到自己的應(yīng)用程序中。通過我們的完整示例,你可以利用高級功能,例如多個對話主題、語音識別、文件上傳,通過你自己的最新信息使聊天更智能,持久內(nèi)存存儲允許機(jī)器人在每次使用時變得越來越智能,甚至可以下載機(jī)器人與他人共享,加入他們的對話。
無論您是在構(gòu)建客戶服務(wù)工具、個性化推薦系統(tǒng)、人力資源助理、教育工具還是電子商務(wù)助手,我們的 Copilot Chat 都可以提供幫助。我們認(rèn)為,從示例應(yīng)用下載和生成會有很多好處。
改善用戶體驗:通過提供個性化幫助和自然語言處理,您自己的聊天機(jī)器人可以改善客戶、學(xué)生和員工的用戶體驗。用戶可以快速輕松地獲得所需的信息,而無需瀏覽復(fù)雜的網(wǎng)站或等待客戶服務(wù)代表的幫助。
提高效率: 通過處理客戶服務(wù)或人力資源任務(wù)的聊天機(jī)器人,您可以讓員工專注于需要人工干預(yù)的更復(fù)雜的任務(wù)。這可以提高組織的效率并降低成本。
個性化推薦:通過自然語言處理和持久內(nèi)存存儲,您的聊天機(jī)器人可以為產(chǎn)品、服務(wù)或教育資源提供個性化推薦。這可以提高客戶滿意度并推動銷售。
改進(jìn)的可訪問性:通過語音識別和文件上傳,您的聊天機(jī)器人可以為用戶提供更準(zhǔn)確和個性化的幫助。例如,難以瀏覽網(wǎng)站的患者可以更輕松地使用聊天,并快速有效地接收所需的信息。
可擴(kuò)展性:通過處理客戶服務(wù)或教育任務(wù)的聊天機(jī)器人,您可以輕松擴(kuò)展以滿足不斷增長的需求,而無需雇用更多員工。這可以降低成本并增加收入。
總結(jié)
Semantic Kernel 支持快速開發(fā)用于編排企業(yè)中各種系統(tǒng)的內(nèi)核。 要使用的模型是 Azure OpenAI 服務(wù),它具有豐富的企業(yè)安全性,我們可以從Copilot Chat示例程序開始。
相關(guān)鏈接:
[1] 微軟365 Copilot: https://www.microsoft.com/en-us/microsoft-365/blog/2023/03/16/introducing-microsoft-365-copilot-a-whole-new-way-to-work/
[2]Copilot 聊天示例程序: https://devblogs.microsoft.com/semantic-kernel/announcing-copilot-chat/文章來源:http://www.zghlxwxcb.cn/news/detail-431550.html
[3]Microsoft Graph: https://learn.microsoft.com/graph/overview文章來源地址http://www.zghlxwxcb.cn/news/detail-431550.html
到了這里,關(guān)于使用 Semantic Kernel 實現(xiàn) Microsoft 365 Copilot 架構(gòu)的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!