最近因?yàn)閭€(gè)人工作上的變動(dòng)、更文頻次降低了不少哈

本次博文為一份存稿、可能有些細(xì)節(jié)還需要補(bǔ)充、敬請(qǐng)查閱、指點(diǎn)

• ?? 模型部署之轉(zhuǎn)換-加速-封裝

• ?? 目標(biāo)檢測(cè)-模型部署 – 物有所值的一個(gè) AI 工程化 落地專欄

?? OpenVINO 前言介紹

近些年、云原生技術(shù)相關(guān)概念越來(lái)越火熱，如何把 AI 模型 高效 落地應(yīng)用到 物聯(lián)網(wǎng)相關(guān)實(shí)際場(chǎng)景中，成為一個(gè)當(dāng)下較為迫切能夠進(jìn)一步解放生產(chǎn)力的一項(xiàng)技術(shù)。

隨著AI技術(shù)等對(duì)應(yīng)用開(kāi)發(fā)和功能實(shí)現(xiàn)的影響越來(lái)越大，這也就要求相關(guān)企業(yè)具備更強(qiáng)的AI開(kāi)發(fā)能力，從數(shù)據(jù)收集、數(shù)據(jù)預(yù)處理、數(shù)據(jù)標(biāo)注、模型訓(xùn)練、模型評(píng)估和模型部署等一系列任務(wù)，無(wú)一不考驗(yàn)著企業(yè)的AI模型精度和AI推理速度、AI 算力資源等AI開(kāi)發(fā)、落地能力。

模型推理框架一覽——模型部署不得不了解的羅馬【一文讀懂】

而各家大廠針對(duì)也大多針對(duì)自己產(chǎn)品和技術(shù)推出了相關(guān)的深度學(xué)習(xí)AI模型端側(cè)推理框架幫助開(kāi)發(fā)者們快速把訓(xùn)練好的AI模型落地到實(shí)際產(chǎn)品中。

OpenVINO是英特爾針對(duì)自家硬件平臺(tái)開(kāi)發(fā)的一套深度學(xué)習(xí)工具庫(kù)，包含推斷庫(kù)，模型優(yōu)化等等一系列與深度學(xué)習(xí)模型部署相關(guān)的功能。

OpenVINO?工具包是用于快速開(kāi)發(fā)應(yīng)用程序和解決方案的綜合工具包，可解決各種任務(wù)，包括模擬人類視覺(jué)，自動(dòng)語(yǔ)音識(shí)別，自然語(yǔ)言處理，推薦系統(tǒng)等。該工具包基于最新一代的人工神經(jīng)網(wǎng)絡(luò)，包括卷積神經(jīng)網(wǎng)（CNN），循環(huán)和基于注意力的網(wǎng)絡(luò)，可在英特爾?硬件上擴(kuò)展計(jì)算機(jī)視覺(jué)和非視覺(jué)工作負(fù)載，從而最大限度地提高性能。它通過(guò)從邊緣到云的高性能，人工智能和深度學(xué)習(xí)推理來(lái)加速應(yīng)用程序。

OpenVINO是一個(gè)Pipeline工具集，同時(shí)可以兼容各種開(kāi)源框架訓(xùn)練好的模型，擁有算法模型上線部署的各種能力，只要掌握了該工具，你可以輕松的將預(yù)訓(xùn)練模型在Intel的CPU上快速部署起來(lái)。

?? OpenVINO 安裝

1 . 基礎(chǔ)信息

OpenVINO是英特爾推出的一款全面的工具套件，用于快速部署深度學(xué)習(xí)應(yīng)用和解決方案

我的虛擬機(jī) Linux 版本

cat /etc/issue

Ubuntu 20.04.2 LTS \n \l

2 . Install Protobuf 【基礎(chǔ)依賴】

• 好處是，編譯構(gòu)建 時(shí)就會(huì)使用系統(tǒng)中的 Protobuf
• Found Protobuf: /usr/lib/x86_64-linux-gnu/libprotobuf.so;-pthread (found version “3.6.1”)

sudo apt-get install libprotobuf-dev protobuf-compiler

輸出如下

Reading package lists... Done
Building dependency tree       
Reading state information... Done
The following packages were automatically installed and are no longer required:
  linux-headers-5.8.0-50-generic linux-hwe-5.8-headers-5.8.0-50 linux-image-5.8.0-50-generic linux-modules-5.8.0-50-generic linux-modules-extra-5.8.0-50-generic
Use 'sudo apt autoremove' to remove them.
The following additional packages will be installed:
  libprotobuf-lite17 libprotoc17
The following NEW packages will be installed:
  libprotobuf-dev libprotobuf-lite17 libprotoc17 protobuf-compiler
0 upgraded, 4 newly installed, 0 to remove and 0 not upgraded.
Need to get 1,960 kB of archives.
After this operation, 13.8 MB of additional disk space will be used.
Do you want to continue? [Y/n] y
...                                                              
Fetched 1,850 kB in 2min 35s (11.9 kB/s)                                                                                                                                            
Selecting previously unselected package libprotobuf-lite17:amd64.
(Reading database ... 236473 files and directories currently installed.)
Preparing to unpack .../libprotobuf-lite17_3.6.1.3-2ubuntu5_amd64.deb ...
Unpacking libprotobuf-lite17:amd64 (3.6.1.3-2ubuntu5) ...
Selecting previously unselected package libprotoc17:amd64.
Preparing to unpack .../libprotoc17_3.6.1.3-2ubuntu5_amd64.deb ...
Unpacking libprotoc17:amd64 (3.6.1.3-2ubuntu5) ...
Selecting previously unselected package libprotobuf-dev:amd64.
Preparing to unpack .../libprotobuf-dev_3.6.1.3-2ubuntu5_amd64.deb ...
Unpacking libprotobuf-dev:amd64 (3.6.1.3-2ubuntu5) ...
Selecting previously unselected package protobuf-compiler.
Preparing to unpack .../protobuf-compiler_3.6.1.3-2ubuntu5_amd64.deb ...
Unpacking protobuf-compiler (3.6.1.3-2ubuntu5) ...
Setting up libprotoc17:amd64 (3.6.1.3-2ubuntu5) ...
Setting up protobuf-compiler (3.6.1.3-2ubuntu5) ...
Setting up libprotobuf-lite17:amd64 (3.6.1.3-2ubuntu5) ...
Setting up libprotobuf-dev:amd64 (3.6.1.3-2ubuntu5) ...
Processing triggers for man-db (2.9.1-1) ...
Processing triggers for libc-bin (2.31-0ubuntu9.2) ...

3 . Install OpenVINO Toolkit

官方提供多種安裝下載方式

• https://www.intel.com/content/www/us/en/developer/tools/openvino-toolkit-download.html

方式一：可視化安裝

這里選擇命令行安裝

查閱該文檔進(jìn)行這種方式的配置

• https://docs.openvino.ai/latest/openvino_docs_install_guides_installing_openvino_linux.html

Step 1: Install OpenVINO? Toolkit Core Components

• 下載離線版安裝包 l_openvino_toolkit_p_2021.4.689.tgz

需要 root 權(quán)限

tar -zxvf l_openvino_toolkit_p_2021.4.689.tgz 

cd l_openvino_toolkit_p_2021.4.689/

sudo ./install_GUI.sh

# 或者

sudo ./install.sh

具體步驟截圖說(shuō)明如下【僅供參考】

• 步驟 1

• 步驟 2

• 步驟 3

• 步驟 4 【告訴我們默認(rèn)會(huì)安裝 list 】

• 步驟 5

• 步驟 6

• 步驟 7 查看安裝位置

Step 2: Install External Software Dependencies【非必須步驟】

cd /opt/intel/openvino_2021/install_dependencies

sudo -E ./install_openvino_dependencies.sh

sudo -E ./install_prerequisites_onnx.sh

網(wǎng)速?zèng)Q定安裝速度 | 我們也可以使用 Conda 搭建自己的環(huán)境

Step 3: Configure the Environment【配置環(huán)境變量】

cd /home/moli/
vi ~/.bashrc

添加如下一行命令

source /opt/intel/openvino_2021/bin/setupvars.sh
# 或者 使得 環(huán)境變量生效
source .bashrc


# 輸出如下

[setupvars.sh] OpenVINO environment initialized

Step 4: Configure the Model Optimizer

sudo ./install_prerequisites.sh

Step 5: GET STARTED GUIDES【測(cè)試是否成功】

• Getting Started with One-Command Demo

這一部分參考官方鏈接，網(wǎng)絡(luò)順利，基本都可運(yùn)行成功

---

https://docs.openvino.ai/2021.4/openvino_docs_get_started_get_started_scripts.html

cd /opt/intel/openvino_2021/deployment_tools/demo
eog car.png

Python 環(huán)境安裝命令

pip install openvino

# 或者

pip install openvino-dev

方式二：源碼編譯安裝

官方安裝教程鏈接

---

https://github.com/openvinotoolkit/openvino/wiki/BuildingForLinux

---

本次安裝是在自己的虛擬機(jī)中進(jìn)行

git clone https://github.com/openvinotoolkit/openvino.git

cd openvino
git submodule update --init --recursive

這一步會(huì)補(bǔ)充下載一些可能用到的依賴庫(kù)，根據(jù)網(wǎng)絡(luò)情況，可能會(huì)部分下載失敗

chmod +x install_build_dependencies.sh

./install_build_dependencies.sh

## 運(yùn)行輸出如下

Get:1 http://security.ubuntu.com/ubuntu focal-security InRelease [114 kB]
Hit:2 http://us.archive.ubuntu.com/ubuntu focal InRelease
Fetched 114 kB in 2s (60.0 kB/s)                        
Reading package lists... Done
Building dependency tree       
Reading state information... Done

mkdir build && cd build

cmake -DCMAKE_BUILD_TYPE=Release -DENABLE_CLDNN=OFF ..
make --jobs=$(nproc --all)

?? 預(yù)祝各位 前途似錦、可摘星辰

• ?? 作為全網(wǎng) AI 領(lǐng)域 干貨最多的博主之一，?? 不負(fù)光陰不負(fù)卿 ??
• ?? 如果文章對(duì)你有幫助、點(diǎn)贊、評(píng)論鼓勵(lì)博主的每一分認(rèn)真創(chuàng)作

• ?? 深度學(xué)習(xí)模型訓(xùn)練推理——基礎(chǔ)環(huán)境搭建推薦博文查閱順序【基礎(chǔ)安裝—認(rèn)真幫大家整理了】——【1024?？?

計(jì)算機(jī)視覺(jué)領(lǐng)域 八大專欄、不少干貨、有興趣可了解一下

• ?? 圖像風(fēng)格轉(zhuǎn)換 —— 代碼環(huán)境搭建 實(shí)戰(zhàn)教程【關(guān)注即可閱】！
• ?? 圖像修復(fù)-代碼環(huán)境搭建-知識(shí)總結(jié) 實(shí)戰(zhàn)教程 【據(jù)說(shuō)還行】
• ?? 超分重建-代碼環(huán)境搭建-知識(shí)總結(jié) 解秘如何讓白月光更清晰【脫單神器】
• ?? YOLO專欄，只有實(shí)戰(zhàn)，不講道理 圖像分類【建議收藏】！

• ?? 深度學(xué)習(xí)：環(huán)境搭建，一文讀懂

• ?? 深度學(xué)習(xí)：趣學(xué)深度學(xué)習(xí)

• ?? 落地部署應(yīng)用：模型部署之轉(zhuǎn)換-加速-封裝

• ?? CV 和 語(yǔ)音數(shù)據(jù)集：數(shù)據(jù)集整理

• ?? 最近更新：2021年10月31日

• ?? 點(diǎn)贊 ?? 收藏 ?留言 ?? 都是博主堅(jiān)持寫(xiě)作、更新高質(zhì)量博文的最大動(dòng)力！

文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-443286.html

到了這里，關(guān)于Ubuntu20安裝并配置OpenVINO【圖文教程】的文章就介紹完了。如果您還想了解更多內(nèi)容，請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！