Ollama 的安裝步驟如下:
- 安裝 Docker:
首先,確保您的系統(tǒng)已經(jīng)安裝了 Docker。您可以按照 Docker 官方文檔提供的指南來安裝 Docker:https://docs.docker.com/get-docker/
2. 拉取 Ollama 鏡像:
打開終端或命令提示符,運(yùn)行以下命令來拉取 Ollama 鏡像:
docker pull ollama/ollama
這將從 Docker Hub 上下載 Ollama 的最新版本。
3. 運(yùn)行 Ollama 容器:
運(yùn)行以下命令來啟動(dòng) Ollama 容器:
docker run -d --restart=always -v /home/docker/ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
這將在后臺(tái)運(yùn)行一個(gè)名為 “ollama” 的容器,并將 /home/docker/ollama
目錄掛載到容器內(nèi)的 /root/.ollama
目錄,同時(shí)將容器內(nèi)的端口 11434 映射到宿主機(jī)的端口 11434。
4. 訪問 Ollama Web 界面:
打開您的瀏覽器,并訪問 http://localhost:11434
(如果您的 Docker 守護(hù)進(jìn)程運(yùn)行在遠(yuǎn)程主機(jī)上,則將 localhost
替換為相應(yīng)的 IP 地址)。您將會(huì)看到 Ollama 的 Web 界面,通過它您可以開始構(gòu)建、訓(xùn)練和部署深度學(xué)習(xí)模型。
通過按照以上步驟,您將能夠在您的系統(tǒng)上成功安裝和運(yùn)行 Ollama。請注意,確保您的系統(tǒng)滿足 Docker 的要求,并且具有足夠的存儲(chǔ)空間來存儲(chǔ) Ollama 容器中的數(shù)據(jù)。
二、Open WebUI 安裝
要使用 Docker 安裝 Open-webui,您可以創(chuàng)建一個(gè) Docker 容器,并在其中運(yùn)行 Open-webui 服務(wù)。以下是安裝 Open-webui 的步驟:
- 拉取 Open WebUI 鏡像:
首先,您需要從 Docker Hub 上拉取 Open WebUI的鏡像。在終端或命令提示符中運(yùn)行以下命令:
docker pull openwebui/open-webui
- 運(yùn)行 Open WebUI 容器:
使用以下命令在容器中運(yùn)行 Open WebUI 服務(wù):
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
這將在后臺(tái)運(yùn)行一個(gè)名為 “open-webui” 的容器,并將容器內(nèi)的端口 3000 映射到宿主機(jī)的端口 3000。
3. 訪問 Open WebUI:
打開您的瀏覽器,并訪問 http://localhost:3000
。您應(yīng)該會(huì)看到 Open WebUI的用戶界面,通過它您可以與 Ollama 平臺(tái)進(jìn)行交互,管理模型和監(jiān)控訓(xùn)練過程。
三、配置及使用
- 下載模型
自我介紹一下,小編13年上海交大畢業(yè),曾經(jīng)在小公司待過,也去過華為、OPPO等大廠,18年進(jìn)入阿里一直到現(xiàn)在。
深知大多數(shù)Linux運(yùn)維工程師,想要提升技能,往往是自己摸索成長或者是報(bào)班學(xué)習(xí),但對于培訓(xùn)機(jī)構(gòu)動(dòng)則幾千的學(xué)費(fèi),著實(shí)壓力不小。自己不成體系的自學(xué)效果低效又漫長,而且極易碰到天花板技術(shù)停滯不前!
因此收集整理了一份《2024年Linux運(yùn)維全套學(xué)習(xí)資料》,初衷也很簡單,就是希望能夠幫助到想自學(xué)提升又不知道該從何學(xué)起的朋友,同時(shí)減輕大家的負(fù)擔(dān)。
既有適合小白學(xué)習(xí)的零基礎(chǔ)資料,也有適合3年以上經(jīng)驗(yàn)的小伙伴深入學(xué)習(xí)提升的進(jìn)階課程,基本涵蓋了95%以上Linux運(yùn)維知識點(diǎn),真正體系化!
由于文件比較大,這里只是將部分目錄大綱截圖出來,每個(gè)節(jié)點(diǎn)里面都包含大廠面經(jīng)、學(xué)習(xí)筆記、源碼講義、實(shí)戰(zhàn)項(xiàng)目、講解視頻,并且后續(xù)會(huì)持續(xù)更新
如果你覺得這些內(nèi)容對你有幫助,可以添加VX:vip1024b (備注Linux運(yùn)維獲?。?/strong>
為了做好運(yùn)維面試路上的助攻手,特整理了上百道 【運(yùn)維技術(shù)棧面試題集錦】 ,讓你面試不慌心不跳,高薪offer懷里抱!
這次整理的面試題,小到shell、MySQL,大到K8s等云原生技術(shù)棧,不僅適合運(yùn)維新人入行面試需要,還適用于想提升進(jìn)階跳槽加薪的運(yùn)維朋友。
本份面試集錦涵蓋了
- 174 道運(yùn)維工程師面試題
- 128道k8s面試題
- 108道shell腳本面試題
- 200道Linux面試題
- 51道docker面試題
- 35道Jenkis面試題
- 78道MongoDB面試題
- 17道ansible面試題
- 60道dubbo面試題
- 53道kafka面試
- 18道m(xù)ysql面試題
- 40道nginx面試題
- 77道redis面試題
- 28道zookeeper
總計(jì) 1000+ 道面試題, 內(nèi)容 又全含金量又高
- 174道運(yùn)維工程師面試題
1、什么是運(yùn)維?
2、在工作中,運(yùn)維人員經(jīng)常需要跟運(yùn)營人員打交道,請問運(yùn)營人員是做什么工作的?
3、現(xiàn)在給你三百臺(tái)服務(wù)器,你怎么對他們進(jìn)行管理?
4、簡述raid0 raid1raid5二種工作模式的工作原理及特點(diǎn)
5、LVS、Nginx、HAproxy有什么區(qū)別?工作中你怎么選擇?
6、Squid、Varinsh和Nginx有什么區(qū)別,工作中你怎么選擇?
7、Tomcat和Resin有什么區(qū)別,工作中你怎么選擇?
8、什么是中間件?什么是jdk?
9、講述一下Tomcat8005、8009、8080三個(gè)端口的含義?
10、什么叫CDN?
11、什么叫網(wǎng)站灰度發(fā)布?
12、簡述DNS進(jìn)行域名解析的過程?
13、RabbitMQ是什么東西?
14、講一下Keepalived的工作原理?
15、講述一下LVS三種模式的工作過程?
16、mysql的innodb如何定位鎖問題,mysql如何減少主從復(fù)制延遲?
17、如何重置mysql root密碼?
一個(gè)人可以走的很快,但一群人才能走的更遠(yuǎn)。如果你從事以下工作或?qū)σ韵赂信d趣,歡迎戳這里加入程序員的圈子,讓我們一起學(xué)習(xí)成長!
AI人工智能、Android移動(dòng)開發(fā)、AIGC大模型、C C#、Go語言、Java、Linux運(yùn)維、云計(jì)算、MySQL、PMP、網(wǎng)絡(luò)安全、Python爬蟲、UE5、UI設(shè)計(jì)、Unity3D、Web前端開發(fā)、產(chǎn)品經(jīng)理、車載開發(fā)、大數(shù)據(jù)、鴻蒙、計(jì)算機(jī)網(wǎng)絡(luò)、嵌入式物聯(lián)網(wǎng)、軟件測試、數(shù)據(jù)結(jié)構(gòu)與算法、音視頻開發(fā)、Flutter、IOS開發(fā)、PHP開發(fā)、.NET、安卓逆向、云計(jì)算文章來源:http://www.zghlxwxcb.cn/news/detail-848566.html
C#、Go語言、Java、Linux運(yùn)維、云計(jì)算、MySQL、PMP、網(wǎng)絡(luò)安全、Python爬蟲、UE5、UI設(shè)計(jì)、Unity3D、Web前端開發(fā)、產(chǎn)品經(jīng)理、車載開發(fā)、大數(shù)據(jù)、鴻蒙、計(jì)算機(jī)網(wǎng)絡(luò)、嵌入式物聯(lián)網(wǎng)、軟件測試、數(shù)據(jù)結(jié)構(gòu)與算法、音視頻開發(fā)、Flutter、IOS開發(fā)、PHP開發(fā)、.NET、安卓逆向、云計(jì)算**文章來源地址http://www.zghlxwxcb.cn/news/detail-848566.html
到了這里,關(guān)于Linux平臺(tái)利用Ollama和Open WebUI部署大模型_open webui 如何添加模型(1)的文章就介紹完了。如果您還想了解更多內(nèi)容,請?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!