国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

Chatgpt私有化部署(全流程)

這篇具有很好參考價值的文章主要介紹了Chatgpt私有化部署(全流程)。希望對大家有所幫助。如果存在錯誤或未考慮完全的地方,請大家不吝賜教,您也可以點擊"舉報違法"按鈕提交疑問。

前言

? 當(dāng)下使用chatgpt來幫助完成工作已然成為主流,但想訪問必須先面對地區(qū)的封鎖,所以使用openai官方提供的API來部署至本地服務(wù)器從而更加便利的使用chatgpt。本文章主要介紹如何部署私有聊天機器人。

條件準備:

  1. 公網(wǎng)服務(wù)器一臺(可選阿里云、騰訊云等)
  2. openai賬號,用于獲取私人的apikey來調(diào)用api接口,每個賬戶都有免費的額度,額度用完后就需要充值或者更換賬戶 ,可以在Usage中查看個人賬戶的余額。apikey創(chuàng)建后因安全性問題只顯示一次,請保存好,不要分享給其他人Chatgpt私有化部署(全流程)
  3. 下載基于第三方開發(fā)者開發(fā)的基于OpenAI 的應(yīng)用如ChatGPT-Next-Web以及ChatGPT-Web、OpenAI-Translator等,將代碼打包至服務(wù)器中進行下一步的部署。
    #導(dǎo)入代碼倉庫,也可打成ZIP導(dǎo)入
    [root@TttRark ~]# git clone https://github.com/Yidadaa/ChatGPT-Next-Web.git
    #安裝依賴,可以使用國內(nèi)源
    [root@TttRark ChatGPT-Next-Web-main]# yum install -y nodejs npm
    [root@TttRark ChatGPT-Next-Web-main]# npm install -y yarn
    
  4. 進入項目文件夾scripts中,執(zhí)行setup.sh腳本,一鍵部署安裝。編寫.env.local文件配置所需環(huán)境變量。國內(nèi)服務(wù)器由于無法直連,所以必須修改代理,代理地址可以使用api.openai-proxy.com
    [root@TttRark ChatGPT-Next-Web-main]# sh scripts/setup.sh 
    #編寫環(huán)境文件
    [root@TttRark ChatGPT-Next-Web-main]# cat .env.local 
    OPENAI_API_KEY=你的APIkey
    CODE=項目驗證碼,用于驗證
    BASE_URL=你的代理IP
    
    
  5. 創(chuàng)建啟動腳本用于后續(xù)方便維護,編寫systemd服務(wù)文件,用于開機啟動或者重啟。

    [root@TttRark ChatGPT-Next-Web-main]# cat start.sh 
    #!/bin/bash
    PORT=改成你自定義的端口
    PORT=$PORT yarn start
    
    #創(chuàng)建service文件
    [root@TttRark ChatGPT-Next-Web-main]# cat /etc/systemd/system/chatgpt.service 
    [Unit]
    Description=ChatGPT Bot
    
    [Service]
    User=root
    Group=root
    Type=simple
    Restart=always
    RestartSec=20
    StartLimitInterval=0
    Nice=10
    WorkingDirectory=/root/ChatGPT-Next-Web-main/
    ExecStart=/usr/bin/bash /root/ChatGPT-Next-Web-main/start.sh
    StandardOutput=null
    TimeoutStartSec=30
    
    [Install]
    RequiredBy=multi-user.target
    #設(shè)置開機自啟
    systemctl daemon-reload 
    systemctl enable chatgpt
    systemctl start chatgpt
  6. 訪問測試Chatgpt私有化部署(全流程)填寫自己設(shè)置的驗證密碼Chatgpt私有化部署(全流程)

    ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 交流聯(lián)系q:1257455837文章來源地址http://www.zghlxwxcb.cn/news/detail-418959.html

到了這里,關(guān)于Chatgpt私有化部署(全流程)的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實不符,請點擊違法舉報進行投訴反饋,一經(jīng)查實,立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費用

相關(guān)文章

  • 可私有化部署的車牌識別API接口

    車牌OCR識別 的出現(xiàn)為企業(yè)提供了一種高效、準確的車牌識別和信息提取解決方案。通過圖像預(yù)處理、區(qū)域定位、字符分割和字符識別等步驟,將獲取的車牌圖片或視頻中的車牌信息瞬時輸出,可提供車牌識別API接口做二次開發(fā),該 API 能夠自動識別車牌中的段信息,并

    2024年02月11日
    瀏覽(90)
  • 安裝Joplin Server私有化部署(docker)

    安裝Joplin Server私有化部署(docker)

    前言: 老規(guī)矩官方文檔鏈接 1. 首先擁有一個自己的云服務(wù)器(如果沒有外網(wǎng)訪問需求的話就隨意吧) 安裝docker安裝方式 這里Joplin是使用PostgreSQL數(shù)據(jù)庫的形式, 如果沒有PostgreSQL庫的話, Joplin默認使用的是SQLLite數(shù)據(jù)庫 我這里使用的是docker-compose部署用的是官網(wǎng)的demo.yml所以就直接也

    2024年02月21日
    瀏覽(92)
  • 用一杯星巴克的錢,訓(xùn)練自己私有化的ChatGPT

    用一杯星巴克的錢,訓(xùn)練自己私有化的ChatGPT

    文章摘要:用一杯星巴克的錢,自己動手2小時的時間,就可以擁有自己訓(xùn)練的開源大模型,并可以根據(jù)不同的訓(xùn)練數(shù)據(jù)方向加強各種不同的技能,醫(yī)療、編程、炒股、戀愛,讓你的大模型更“懂”你…..來吧,一起嘗試下開源DolphinScheduler加持訓(xùn)練的開源大模型! ChatGPT的誕生

    2024年02月06日
    瀏覽(23)
  • 私有化部署大模型:5個.Net開源項目

    私有化部署大模型:5個.Net開源項目

    從零構(gòu)建.Net前后端分離項目 今天一起盤點下,10月份推薦的5個.Net開源項目(點擊標題查看詳情)。 1、BootstrapBlazor企業(yè)級組件庫:前端開發(fā)的革新之路 BootstrapBlazor是一個用于構(gòu)建現(xiàn)代Web應(yīng)用程序的開源框架,它基于Blazor框架,采用Bootstrap的UI樣式。Blazor框架允許使用C#代替

    2024年02月05日
    瀏覽(89)
  • 關(guān)于語言模型私有化部署的討論 | AIGC實踐

    關(guān)于語言模型私有化部署的討論 | AIGC實踐

    上周在與TC同行關(guān)于AIGC實踐的線上交流中,大家普遍比較關(guān)心的一個實踐切入點是:語言模型的私有化部署——簡單來說,就是在企業(yè)內(nèi)部,部署一個屬于自己的“ChatGPT”,對于本行業(yè)/專業(yè)知識,以及企業(yè)獨有的產(chǎn)品和技術(shù)信息有充分的了解,并且提供用戶接口,通過自然

    2024年02月11日
    瀏覽(90)
  • SaaS/PaaS/laaS,私有化/云部署,低代碼

    SaaS/PaaS/laaS,私有化/云部署,低代碼

    4399春招火熱進行中 ??4399游戲2024屆春招火熱進行中??! HC很足?。 娟P(guān)于4399】全球領(lǐng)先的中文娛樂平臺之一,連續(xù)九年中國互聯(lián)網(wǎng)企業(yè)40強 ,擁有《文明與征服》等多款億 ? 地平線暑期實習(xí)啟動 地平線地平線25屆暑期轉(zhuǎn)正實習(xí)內(nèi)推即將啟動,大家可以提前準備簡歷并mark一

    2024年04月08日
    瀏覽(23)
  • C#開源項目:私有化部署LLama推理大模型

    C#開源項目:私有化部署LLama推理大模型

    推薦一個C#大模型推理開源項目,讓你輕松駕馭私有化部署! 01 項目簡介 LLama是Meta發(fā)布的一個免費開源的大模型,是一個有著上百億數(shù)量級參數(shù)的大語言模型,支持CPU和GPU兩種方式。 而LLamaSharp就是針對llama.cpp封裝的C#版本,讓方便我們基于C#開發(fā)應(yīng)用,讓我們不需要自己編譯

    2024年02月03日
    瀏覽(90)
  • 開源雙語對話語言模型 ChatGLM-6B 本地私有化部署

    開源雙語對話語言模型 ChatGLM-6B 本地私有化部署

    本文首發(fā)于:https://www.licorne.ink/2023/08/llm-chatglm-6b-local-deploy/ ChatGLM-6B 是一個開源的、支持中英雙語的對話語言模型,基于 General Language Model (GLM) 架構(gòu),具有 62 億參數(shù)。結(jié)合模型量化技術(shù),用戶可以在消費級的顯卡上進行本地部署(INT4 量化級別下最低只需 6GB 顯存)。 ChatGL

    2024年02月10日
    瀏覽(105)
  • 大語言模型之六- LLM之企業(yè)私有化部署

    大語言模型之六- LLM之企業(yè)私有化部署

    2023年上半年,廣泛使用API(如OpenAI)來創(chuàng)建基于大型語言模型(LLM)的基礎(chǔ)設(shè)施,極大地塑造了軟件領(lǐng)域。 LangChain 和LlamaIndex在這一趨勢中發(fā)揮了重要的作用。2023年下半年LLMOps的運維工作流程中微調(diào)(或指令調(diào)整)模型門檻降低基本成了業(yè)內(nèi)標準流程,這一趨勢的發(fā)展主要

    2024年02月11日
    瀏覽(82)
  • 企業(yè)內(nèi)部即時通訊工具支持內(nèi)網(wǎng)私有化部署

    企業(yè)內(nèi)部即時通訊工具支持內(nèi)網(wǎng)私有化部署

    即時通訊可以說是與我們生活相關(guān)最為密切的工具了,即時通訊可以幫助我們與親朋好友進行交流通訊、文件傳輸、視頻通話等,而企業(yè)即時通訊正是個人即時通訊的應(yīng)用延伸,它可以為互聯(lián)網(wǎng)時代的企業(yè)員工交流,企業(yè)信息互通創(chuàng)造良好的條件,現(xiàn)在越來越多的企業(yè)開始私

    2023年04月14日
    瀏覽(21)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包