使用Docker在Linux服務器本地部署PaddleSpeech Web服務

一、本地化部署開源模型庫PaddleSpeech

1. 從官方Docker Hub拉取環(huán)境

```bash
# GPU版本
docker pull paddlecloud/paddlespeech:develop-gpu-cuda10.2-cudnn7-latest
# CPU版本
docker pull paddlecloud/paddlespeech:develop-cpu-latest
```
更多版本：https://hub.docker.com/r/paddlecloud/paddlespeech/tags

2. 啟動容器并分派端口

```bash
# GPU推理
docker run -v $PWD:/mnt -p 8888:8888 --gpus all -it 鏡像名:標簽名 /bin/bash
# CPU推理
docker run -v $PWD:/mnt -p 8888:8888 -it 鏡像名:標簽名 /bin/bash
```
其中8888為docker分配映射的端口。

3. 自然語言處理工具庫NLTK安裝

方法一：使用nltk自帶的download()下載，由于國內(nèi)網(wǎng)絡問題，大概率失敗。

	python # 進入python環(huán)境
	import nltk # 引入nltk包
	nltk.download()

方法二：從下載文件手動安裝包。

鏈接：https://pan.baidu.com/s/1nQveCEAucFSNbuOAsrs6yw?pwd=yydh
提取碼：yydh
從百度網(wǎng)盤下載nltk_data.zip

	python # 進入python環(huán)境
	import nltk 
	from nltk.book import *

你會得到這樣的輸出：

將文件夾中的nltk_data.zip放入以上任意一個路徑后解壓即可。
相關警告：

[nltk_data] Error loading averaged_perceptron_tagger: <urlopen error
[nltk_data]     [Errno 99] Cannot assign requested address>
[nltk_data] Error loading cmudict: <urlopen error [Errno 99] Cannot
[nltk_data]     assign requested address>

二、前后端環(huán)境部署

cd /home/PaddleSpeech/demos/speech_web

1. 后端環(huán)境安裝

cd speech_server
pip install -r requirements.txt -i https://mirror.baidu.com/pypi/simple
cd ..

2. 下載相關模型

只需手動下載語音指令所需模型即可，其他模型會自動下載。

cd speech_server
mkdir -p source/model
cd source/model
# 下載IE模型
wget https://bj.bcebos.com/paddlenlp/applications/speech-cmd-analysis/finetune/model_state.pdparams
cd ../../../

3. 更新paddlepaddle版本

# CPU版本
pip uninstall paddlepaddle
pip install paddlepaddle
# GPU版本
pip uninstall paddlepaddle-gpu
pip install paddlepaddle-gpu

4. 啟動后端服務

cd speech_server
# 端口與啟動容器時建立映射的端口一致
python main.py --port 8888

5. 通過nvm安裝node.js

a. 安裝nvm

git clone https://github.com/nvm-sh/nvm.git
bash install.sh
nvm 
# 此時若顯示版本號，則安裝成功，若顯示Command 'nvm' not found，則關閉當前shell，重新連接即可。
sudo vi ~/.bashrc # 修改環(huán)境變量
# 在最后添加淘寶鏡像
export NVM_NODEJS_ORG_MIRROR=https://npm.taobao.org/mirrors/node/
export NVM_IOJS_ORG_MIRROR=http://npm.taobao.org/mirrors/iojs
source ~/.profile # 讓配置生效

b. 安裝node

nvm install stable # 安裝最新穩(wěn)定版node

6. 前端環(huán)境安裝（在你要啟動前端服務的設備上安裝）

推薦在Windows系統(tǒng)使用Vscode安裝

# 拉取客戶端代碼，不會用git可以點進這個連接手動下載
git clone https://github.com/PaddlePaddle/PaddleSpeech/demos/speech_web/web_client.git
cd web_client # 進入前端目錄（若在另一臺設備上開啟前端服務，只需要web_client文件夾）
npm install -g yarn # 使用yarn安裝前端依賴
yarn install

7. 修改前端的后端配置文件（若在服務器本機運行前端則不需要）

a. 修改第一個文件./web_client/vite.config.js

server: {
    host: "0.0.0.0",
    proxy: {
      "/api": {
        target: "http://localhost:8010",  // 這里改成后端所在接口
        changeOrigin: true,
        rewrite: (path) => path.replace(/^\/api/, ""),
      },
},
}

b. 修改第二個文件./web_client/src/api/API.js

// websocket （這里改成后端所在的接口）
CHAT_SOCKET_RECORD: 'ws://localhost:8010/ws/asr/offlineStream', // ChatBot websocket 接口
ASR_SOCKET_RECORD: 'ws://localhost:8010/ws/asr/onlineStream',  // Stream ASR 接口
TTS_SOCKET_RECORD: 'ws://localhost:8010/ws/tts/online', // Stream TTS 接口

8. 啟動前端服務

cd web_client
yarn dev –port 8011
#自此可以訪問前端網(wǎng)頁服務

文章來源地址http://www.zghlxwxcb.cn/news/detail-807859.html

到了這里，關于使用Docker在Linux服務器本地部署PaddleSpeech Web服務的文章就介紹完了。如果您還想了解更多內(nèi)容，請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關文章，希望大家以后多多支持TOY模板網(wǎng)！