.net平臺(tái)使用SDK快速對(duì)接各大語(yǔ)言模型
1.項(xiàng)目介紹
最近,在做GPT項(xiàng)目時(shí),發(fā)現(xiàn)各個(gè)平臺(tái)的接口規(guī)范和參數(shù)不同,需要根據(jù)不同平臺(tái)和模型寫多種接口,比較麻煩,不想Python那樣有豐富和方便的AI環(huán)境, 如果c#有一個(gè)SDK可以方便調(diào)用各種平臺(tái)模型就好了,這是AllInAI.Sharp.API萌芽的起源。
于是我開發(fā)了這個(gè)SDK,包名:[AllInAI.Sharp.API](https://github.com/raokun/AllInAI.Sharp.API.Sample)。
AllInAI.Sharp.API一款調(diào)用各大平臺(tái)語(yǔ)言模型的SDK,能幫助使用者快速對(duì)接各大模型。已整合OpenAI,chatGLM,文心千帆,同義千問(wèn),stable-diffusion 等 支持設(shè)置反向代理,支持流式接口 AllInAI SDK 在聊天和圖片接口中整合統(tǒng)一的入?yún)⒑统鰠?。方便調(diào)用。
SDK已開源在nuget上,歡迎使用。
目前sdk使用.net7.如需其他版本支持請(qǐng)?jiān)陧?xiàng)目中提issue。
2.已完成模型
- OpenAI
- chatGLM
- 文心千帆
- 同義千問(wèn)
- stable-diffusion
3.接口分類
目前分為兩類
- ChatService 聊天服務(wù)
- ImgService 圖片服務(wù)
4.使用范例
使用示例可參考示例項(xiàng)目:AllInAI.Sharp.API](https://github.com/raokun/AllInAI.Sharp.API.Sample
1.設(shè)置基礎(chǔ)配置:
key -- 模型的秘鑰key
BaseUrl -- 代理地址
AIType -- 模型類型,對(duì)應(yīng)枚舉Enums.AITypeEnum
2.調(diào)用接口
1.chat
AuthOption authOption = new AuthOption() { Key = "sk-***", BaseUrl = "https://api.openai.com", AIType = Enums.AITypeEnum.OpenAi };
ChatService chatService = new ChatService(authOption);
CompletionReq completionReq = new CompletionReq();
List<MessageDto> messages = new List<MessageDto>();
messages.Add(new MessageDto() { Role = "user", Content = "Hello!" });
completionReq.Model = "gpt-3.5-turbo";
completionReq.Messages = messages;
CompletionRes completionRes = await chatService.Completion(completionReq);
2.image
AuthOption authOption = new AuthOption() {BaseUrl = "http://43.134.164.127:77", AIType = Enums.AITypeEnum.SD };
ImgService imgService = new ImgService(authOption);
Txt2ImgReq imgReq = new Txt2ImgReq();
imgReq.Steps = 20;
imgReq.Size = "1024x1024";
imgReq.N = 1;
imgReq.Prompt = "kitty";
imgReq.ResponseFormat = "b64_json";
ImgRes imgRes = await imgService.Txt2Img(imgReq);
5.項(xiàng)目中的應(yīng)用
AllInAI.Sharp.API 已在 TerraMours_Gpt 中廣泛使用。TerraMours_Gpt 項(xiàng)目是一個(gè)多模型的AI應(yīng)用和管理系統(tǒng),支持多語(yǔ)言模型聊天、基于chatgpt和SD的多模型圖片生成等功能。管理端實(shí)現(xiàn)數(shù)據(jù)看板、聊天記錄管理,角色管理,圖片記錄管理、用戶管理、系統(tǒng)配置等。
目前已支持配置api的模型:OpenAI,chatGLM,文心千帆,同義千問(wèn),stable-diffusion。
項(xiàng)目支持基于docker的快速部署搭建。個(gè)人搭建AI應(yīng)用和管理系統(tǒng)只需一段docker-compose命令。
docker-compose命令
閱讀如遇樣式問(wèn)題,請(qǐng)前往個(gè)人博客瀏覽: https://www.raokun.top文章來(lái)源:http://www.zghlxwxcb.cn/news/detail-748511.html
擁抱ChatGPT:https://first.terramours.site文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-748511.html
到了這里,關(guān)于.net平臺(tái)使用SDK快速對(duì)接各大語(yǔ)言模型的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!