在首席執(zhí)行官薩蒂亞·納德拉(Satya Nadella)的支持下,微軟似乎正在迅速轉(zhuǎn)變?yōu)橐患乙匀斯ぶ悄転橹行牡墓?。最近微軟的眾多產(chǎn)品線都采用GPT-4加持,從Microsoft 365等商業(yè)產(chǎn)品到“新必應(yīng)”搜索引擎,再到低代碼/無代碼Power Platform等面向開發(fā)的產(chǎn)品,包括軟件開發(fā)組件Power Apps[1]。
非常重要的一點(diǎn)是這些產(chǎn)品都是使用.NET 構(gòu)建的, 這些項(xiàng)目可以快速的使用LLM 加持,我們寫程序的同學(xué)肯定都會想微軟是怎么做的,正好微軟在3月17日在發(fā)布了一篇博客文章: [Hello, Semantic Kernel!](Hello, Semantic Kernel! | Semantic Kernel)[2], 在這篇文章中微軟已經(jīng)開源了一個(gè)內(nèi)部孵化項(xiàng)目,Github的倉庫:GitHub - microsoft/semantic-kernel: Integrate cutting-edge LLM technology quickly and easily into your apps?[3],該項(xiàng)目可以幫助開發(fā)人員快速輕松地將尖端的人工智能模型集成到他們的應(yīng)用程序中。這使您能夠在應(yīng)用中構(gòu)建新體驗(yàn),從而為用戶帶來無與倫比的工作效率:例如總結(jié)冗長的聊天交流,標(biāo)記通過Microsoft Graph添加到待辦事項(xiàng)列表中的重要“下一步”,或者計(jì)劃一個(gè)完整的假期,而不僅僅是預(yù)訂飛機(jī)上的座位。
語義內(nèi)核(簡稱SK)是一種創(chuàng)新的輕量級軟件開發(fā)工具包(SDK),旨在將人工智能(AI)大型語言模型(LLM)與傳統(tǒng)編程語言集成。借助 SK,開發(fā)人員可以輕松地為其應(yīng)用程序注入復(fù)雜的技能,例如提示鏈接、摘要、遞歸推理、基于嵌入的內(nèi)存等。SK 支持提示模板[4]、函數(shù)鏈、矢量化內(nèi)存[5]和開箱即用的智能規(guī)劃[6]功能。
SK旨在支持和封裝來自最新 AI 研究的多種設(shè)計(jì)模式,以便開發(fā)人員可以為他們的應(yīng)用程序注入復(fù)雜的技能[7],如提示[7]鏈接、遞歸推理、總結(jié)、zero/few-shot 學(xué)習(xí)、上下文記憶、長期記憶、嵌入[8]、語義索引、?規(guī)劃,以及訪問外部知識庫以及您自己的數(shù)據(jù)。
SK最初的目標(biāo)是 C#開發(fā)人員,但也為數(shù)據(jù)科學(xué)家的最愛的 Python提供了預(yù)覽支持,而微軟也根據(jù)從社區(qū)反饋中學(xué)到的內(nèi)容,正在考慮支持[9]其他語言,包括自己的TypeScript。
微軟將SK的主要優(yōu)勢列為:
- 快速集成:SK旨在嵌入任何類型的應(yīng)用程序中,使您可以輕松測試和運(yùn)行LLM AI。
- 擴(kuò)展:借助 SK,您可以連接外部數(shù)據(jù)源和服務(wù),使其應(yīng)用程序能夠?qū)⒆匀徽Z言處理與實(shí)時(shí)信息結(jié)合使用。
- 更好的提示:SK的模板化提示可讓您使用有用的抽象和機(jī)制快速設(shè)計(jì)語義函數(shù),以釋放LLM AI的潛力。
- 新奇但熟悉:傳統(tǒng)編程語言代碼始終可供您作為一流的合作伙伴,幫助您快速完成工程設(shè)計(jì),可以兩全其美。
為了幫助開發(fā)人員入門,微軟提供了一個(gè)免費(fèi)的LinkedIn學(xué)習(xí)課程[10]。它的描述是:“人工智能的未來終于來了,它改變了軟件開發(fā)人員的游戲規(guī)則。探索語義內(nèi)核 (SK) 的可能性,這是 AI 驅(qū)動的開發(fā)的新面孔,封裝在輕量級、易于使用的多層軟件開發(fā)工具包中。使用SK快速啟動和運(yùn)行,SK是Microsoft AI生態(tài)系統(tǒng)的最新成員,使開發(fā)人員能夠輕松地將LLM AI功能集成到他們的應(yīng)用程序中。
除了LinkedIn學(xué)習(xí)課程之外,Microsoft 還解釋了開發(fā)人員如何克隆存儲庫并嘗試以下示例:
- 簡單的聊天摘要[11]:使用現(xiàn)成的技能,并輕松地將這些技能應(yīng)用到你的應(yīng)用中。
- 圖書創(chuàng)作者[12]:使用規(guī)劃師解構(gòu)復(fù)雜的目標(biāo),并在應(yīng)用中設(shè)想使用規(guī)劃師。
- 身份驗(yàn)證和?API[13]:使用基本連接器模式進(jìn)行身份驗(yàn)證并連接到 API,并設(shè)想將外部數(shù)據(jù)集成到應(yīng)用的 LLM AI 中。
- Github倉庫問答[14]:使用嵌入和內(nèi)存來存儲最近的數(shù)據(jù),并允許您對其進(jìn)行查詢。
在運(yùn)行示例和筆記本之前,您可能需要滿足一些軟件要求:
- Azure Functions 核心工具[15],用于將內(nèi)核作為本地 API 運(yùn)行,這是 Web 應(yīng)用所需的。
- 需要OpenAI API[16] 密鑰或?Azure OpenAI 服務(wù)密鑰[17]才能開始使用。
- 用于安裝 Web 應(yīng)用的依賴項(xiàng)的Yarn[18]。
- SK 支持 .NET Standard 2.1,建議使用 .NET 6+。但是,倉庫中的某些示例需要?.NET 7[19] 和 VS Code?Polyglot 擴(kuò)展[20]才能運(yùn)行筆記本
SK 入門
下面是如何從 C# 控制臺應(yīng)用使用語義內(nèi)核的快速示例,這里我們使用VS Code?Polyglot?來做
文章來源:http://www.zghlxwxcb.cn/news/detail-779976.html
相關(guān)鏈接:文章來源地址http://www.zghlxwxcb.cn/news/detail-779976.html
- [1]Power Apps:https://powerapps.microsoft.com/zh-cn/?
- [2]?Hello, Semantic Kernel!:?https://devblogs.microsoft.com/semantic-kernel/hello-world/
- [3] Github的倉庫:https://github.com/microsoft/semantic-kernel
- [4]提示模板:?https://github.com/microsoft/semantic-kernel/blob/main/docs/PROMPT_TEMPLATE_LANGUAGE.md?
- [5]?矢量化內(nèi)存:?https://github.com/microsoft/semantic-kernel/blob/main/docs/EMBEDDINGS.md?
- [6]?智能規(guī)劃?https://github.com/microsoft/semantic-kernel/blob/main/docs/PLANNER.md?
- [7]?技能:?https://github.com/microsoft/semantic-kernel/blob/main/docs/SKILLS.md?
- [8]?嵌入:?https://github.com/microsoft/semantic-kernel/blob/main/docs/EMBEDDINGS.md?
- [9]?支持其他語言:?https://aka.ms/sk/python
- [10]?LinkedIn學(xué)習(xí)課程?https://www.linkedin.com/learning/introducing-semantic-kernel-building-ai-based-apps/introducing-semantic-kernel
- [11]?簡單的聊天摘要?https://github.com/microsoft/semantic-kernel/blob/main/samples/apps/chat-summary-webapp-react/README.md
- [12]?圖書創(chuàng)作者?https://github.com/microsoft/semantic-kernel/blob/main/samples/apps/book-creator-webapp-react/README.md
- [13]?身份驗(yàn)證和?API?https://github.com/microsoft/semantic-kernel/blob/main/samples/apps/auth-api-webapp-react/README.md
- [14]?Github倉庫問答?https://github.com/microsoft/semantic-kernel/blob/main/samples/apps/github-qna-webapp-react/README.md
- [15]?Azure Functions 核心工具?https://learn.microsoft.com/azure/azure-functions/functions-run-local?
- [16]?OpenAI API?https://openai.com/api/
- [17]?Azure OpenAI 服務(wù)密鑰?https://learn.microsoft.com/azure/cognitive-services/openai/quickstart?pivots=rest-api
- [18]?Yarn?https://yarnpkg.com/getting-started/install
- [19]?.NET 7?https://dotnet.microsoft.com/download
- [20]?Polyglot 擴(kuò)展?https://www.cnblogs.com/shanyou/p/17247652.html
到了這里,關(guān)于微軟開源了一個(gè) 助力開發(fā)LLM 加持的應(yīng)用的 工具包 semantic-kernel的文章就介紹完了。如果您還想了解更多內(nèi)容,請?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!