0. 背景
項(xiàng)目 https://github.com/langgenius/dify.git
的 OpenAI 配置項(xiàng)目里,現(xiàn)在(20230802)還支持輸入 api_base 項(xiàng)目,所以修改了一下代碼適配自建的 OpenAI API 服務(wù)。
1. 修改默認(rèn)的 api_base 地址
整個(gè)工程檢索 http://api.openai.com
,將它置換為自建的 OpenAI API 服務(wù)的地址,例如 http://127.0.0.1:8000/v1
。
整個(gè)工程檢索 OpenAIEmbeddings
,添加自建的 OpenAI API 服務(wù)的地址,例如,
import os
(略)
embeddings = CacheEmbedding(OpenAIEmbeddings(
openai_api_base=os.environ.get("OPENAI_API_BASE", "http://127.0.0.1:8000/v1"),
**model_credentials
))
2. 修改 openai_provider.py
3. 重新構(gòu)建 docker 鏡像
cd api
docker buildx build -t <your_dockerhub_username>/dify-api:0.3.12 .
4. 修改 docker-compose.yaml
將兩處 image: langgenius/dify-api:0.3.12
修改為 <your_dockerhub_username>/dify-api:0.3.12
。
在 worker 和 api 中添加環(huán)境變量 OPENAI_API_BASE: "http://127.0.0.1:8000/v1"
。文章來(lái)源:http://www.zghlxwxcb.cn/news/detail-624861.html
5. 啟動(dòng)項(xiàng)目
cd docker
docker compose up -d
完結(jié)!文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-624861.html
到了這里,關(guān)于改造 dify 項(xiàng)目適配自建的 OpenAI API 服務(wù)的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!