0,演示本地啟動(dòng)視頻,還可以配合fastcht部署chatglm3大模型
演示視頻:
https://www.bilibili.com/video/BV1WC4y1k7j5/?vd_source=4b290247452adda4e56d84b659b0c8a2
【chatglm3】(10):使用fastchat本地部署chatlgm3-6b模型,并配合chatgpt-web的漂亮界面做展示,調(diào)用成功,vue的開源項(xiàng)目
部署腳本和方法:
https://gitee.com/fly-llm/dify-mysql-llm/tree/master/fastchat-docker-compose
1,項(xiàng)目地址:
https://github.com/Chanzhaoyu/chatgpt-web
ChatGPTAPI 使用 gpt-3.5-turbo-0301 通過官方OpenAI補(bǔ)全API模擬ChatGPT(最穩(wěn)健的方法,但它不是免費(fèi)的,并且沒有使用針對(duì)聊天進(jìn)行微調(diào)的模型)
ChatGPTUnofficialProxyAPI 使用非官方代理服務(wù)器訪問 ChatGPT 的后端API,繞過Cloudflare(使用真實(shí)的的ChatGPT,非常輕量級(jí),但依賴于第三方服務(wù)器,并且有速率限制)
2,項(xiàng)目啟動(dòng),使用docker-compose 啟動(dòng)項(xiàng)目
version: '3'
services:
app:
image: chenzhaoyu94/chatgpt-web # 總是使用 latest ,更新時(shí)重新 pull 該 tag 鏡像即可
ports:
- 3002:3002
environment:
# 二選一
OPENAI_API_KEY: sk-xxx
# 二選一
OPENAI_ACCESS_TOKEN: xxx
# API接口地址,可選,設(shè)置 OPENAI_API_KEY 時(shí)可用
OPENAI_API_BASE_URL: xxx
# API模型,可選,設(shè)置 OPENAI_API_KEY 時(shí)可用
OPENAI_API_MODEL: xxx
# 反向代理,可選
API_REVERSE_PROXY: xxx
# 訪問權(quán)限密鑰,可選
AUTH_SECRET_KEY: xxx
# 超時(shí),單位毫秒,可選
TIMEOUT_MS: 60000
# Socks代理,可選,和 SOCKS_PROXY_PORT 一起時(shí)生效
SOCKS_PROXY_HOST: xxx
# Socks代理端口,可選,和 SOCKS_PROXY_HOST 一起時(shí)生效
SOCKS_PROXY_PORT: xxx
# HTTPS 代理,可選,支持 http,https,socks5
HTTPS_PROXY: http://xxx:7890
docker-compose up -d
$ docker ps
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
eca262c45456 chenzhaoyu94/chatgpt-web "docker-entrypoint.s…" 7 seconds ago Up 6 seconds 0.0.0.0:3002->3002/tcp, :::3002->3002/tcp nodeworkspace-app-1
可以配置驗(yàn)證碼:xxx
沒有配置好key 和 證書顯示:
3,配置好了之后就可以使用了
效果如下,使用最新版本的chatgpt 3.5
還可以配合本地大模型chatglm3
方法:
https://gitee.com/fly-llm/dify-mysql-llm/tree/master/fastchat-docker-compose
配置修改,修改成fastchat api 的ip地址,和端口,不用增加 v1 路徑?。?/p>
services:
app:
container_name: chatgpt-web
image: chenzhaoyu94/chatgpt-web # Always use latest, just pull the tag image again when updating
ports:
- 3002:3002
environment:
# pick one of two
OPENAI_API_KEY: 1234
# pick one of two
OPENAI_ACCESS_TOKEN:
# API interface address, optional, available when OPENAI_API_KEY is set
OPENAI_API_BASE_URL: http://192.168.1.116:8000
# API model, optional, available when OPENAI_API_KEY is set
OPENAI_API_MODEL: gpt-3.5-turbo
# reverse proxy, optional
運(yùn)行效果:文章來源:http://www.zghlxwxcb.cn/news/detail-505996.html
文章來源地址http://www.zghlxwxcb.cn/news/detail-505996.html
到了這里,關(guān)于發(fā)現(xiàn)一個(gè)開源的Chatgpt-web應(yīng)用,前端使用vue編寫,后端也是nodejs代碼編寫的。的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!