引言
OpenVINO2022版本發布之后,對之前舊版本的功能做明確的劃分,其中仍然通過exe方式安裝程序的是runtime推理包,支持ONNX、IR、PADDLE等模型讀取與推理。但是模型優化轉換、模型庫下載功能等其他功能被分在一個叫Dev Tool的部分。該部分可以通過pip方式直接安裝,然后通過命令行直接直線,完成模型的轉換,下載等操作,跟之前版本易用性有較大提升!做個對比如下:
Dev Tools安裝與使用
Dev Tools安裝非常方便,直接通過官方腳本命令行選擇安裝即可,唯一需要注意的是選擇模型框架支持,我選擇了ONNX/Pytorch格式轉換支持,安裝的命令行如下:
pip install openvino-dev[onnx,pytorch]==2022.1.0
執行完這條命令行就算是安裝好了,只要網絡不掛就可以安裝成功!
安裝完成,轉換一個ONNX格式的模型為IR格式(xml/bin)文件,以Pytorch的ResNet18為例,先轉換為ONNX,代碼如下:model = models.resnet18(pretrained=True)
model.eval()
model.cpu()
dummy_input1 = torch.randn(1, 3, 224, 224)
torch.onnx.export(model, (dummy_input1), "resnet_model.onnx", verbose=True)
然后直接運行命令行就可以轉換IR格式文件,截圖如下:
模型下載
安裝完成Dev Tools之后,下載模型,只要執行命令行即可:舉例如下:
omz_downloader --name person-detection-0200
表示下載模型person-detection-0200是一個輕量化的人臉檢測模型。omz_downloader支持的參數:--all表示下載全部模型,建議別這么干!
--name 下載一個或者多個指定名稱的模型,推薦這么干!
--precisions 表示下載的模型精度參數,支持FP32/FP18/INT8
對比之前Python版本的SDK,好用了不少,最明顯的感受就是不用讀輸入輸出,然后一堆設置了,對單個輸入輸出的網絡,調用就特別的簡潔更方便!開發者更加容易上手!上面我已經成功轉換一個pytorch圖像分類模型為IR格式,現在就可以使用它,基于OpenVINO2022版本最新Python SDK部署調用,實現代碼如下:
#加載標簽數據
withopen('imagenet_classes.txt')asf:
labels=[line.strip()forlineinf.readlines()]
defresnet_demo():
ie=Core()
#model=ie.read_model(model="resnet_model.onnx")
model=ie.read_model(model="resnet_model.xml")
compiled_model=ie.compile_model(model=model,device_name="CPU")
output_layer=compiled_model.output(0)
means=np.zeros((224,224,3),dtype=np.float32)
means[:,:]=(0.485,0.456,0.406)
dev=np.zeros((224,224,3),dtype=np.float32)
dev[:,:]=(0.229,0.224,0.225)
image=cv.imread("D:/images/space_shuttle.jpg")
rgb=cv.cvtColor(image,code=cv.COLOR_BGR2RGB)
#resizetoMobileNetimageshape
input_image=cv.resize(src=rgb,dsize=(224,224))
blob_img=np.float32(input_image)/255.0
input_x=(blob_img-means)/dev
input_x=input_x.transpose((2,0,1))
input_x=np.expand_dims(input_x,0)
print(input_x.shape)
result_infer=compiled_model([input_x])[output_layer]
result_index=np.argmax(result_infer)
cv.putText(image,labels[result_index],(20,50),cv.FONT_HERSHEY_SIMPLEX,1.0,(0,0,255),2)
cv.imshow("OpenVINO2022+PythorchResNet18",image)
cv.waitKey(0)
cv.destroyAllWindows()
if__name__=="__main__":
resnet_demo()
審核編輯 :李倩
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。
舉報投訴
-
模型
+關注
關注
1文章
3504瀏覽量
50206 -
腳本
+關注
關注
1文章
397瀏覽量
28403
原文標題:OpenVINO2022 Dev Tools安裝與使用
文章出處:【微信號:CVSCHOOL,微信公眾號:OpenCV學堂】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
熱點推薦
為什么無法通過“pip install openvino-dev==2025.0.0”安裝 2025.0 OpenVINO??
通過“pip install openvino-dev==2025.0.0OpenVINO? 2025.0 安裝。
收到的錯誤:
ERROR: No matching distribution found for
發表于 06-23 08:13
從源代碼構建OpenVINO?后,無法獲得Open Model Zoo工具怎么解決?
OpenVINO?從源代碼構建
使用 Pip 下載的 OMZ 工具:pip install omz-tools
遇到錯誤: ERROR: Could not find a version
發表于 03-06 08:31
如何部署OpenVINO?工具套件應用程序?
編寫代碼并測試 OpenVINO? 工具套件應用程序后,必須將應用程序安裝或部署到生產環境中的目標設備。
OpenVINO?部署管理器指南包含有關如何輕松使用部署管理器將應用程序打包并部署到目標主機的詳細信息。
注意:
發表于 03-06 08:23
安裝和啟動OpenVINO? Notebook遇到地址錯誤怎么解決?
安裝和啟動 OpenVINO? Notebook。
遇到的錯誤: Bad address (C:projectslibzmqsrcepoll.cpp:100
發表于 03-06 06:34
在Windows上安裝OpenVINO?運行時遇到錯誤怎么解決?
已在 Windows* 上安裝OpenVINO?運行時。
配置環境變量。
遇到錯誤:
Location is not available.
發表于 03-05 09:13
在Windows中安裝OpenVINO?后,無法找到OpenCL編譯器二進制文件是怎么回事?
已在 Windows* 和開源OpenVINO工具套件 Windows* 中安裝 OpenVINO?英特爾 Distribution。
如 如何為 VPU 實施自定義層 (英特爾? 神經電腦棒 2) 中提到,本目錄/deplo
發表于 03-05 08:57
安裝OpenVINO? 2023.2使用pip install openvino-dev命令的開發工具后報錯怎么解決?
安裝OpenVINO? 2023.2 使用 pip install openvino-dev 命令的開發工具。
遇到錯誤: ModuleNotFoundError: 沒有名為 \'distutils\' 的模塊
發表于 03-05 08:39
通過Docker映像OpenVINO? DL Workbench OpenVINO?安裝,無法上傳模型怎么解決?
通過 Docker 映像OpenVINO? DL Workbench OpenVINO?安裝。
無法上傳模型:
Model cannot be downloaded due to network
發表于 03-05 08:08
已安裝OpenVINO?工具套件,無法運行是怎么回事?
已安裝OpenVINO?工具套件
無法運行行 demo_squeezenet_download_convert_run.bat 和 demo_benchmark.bat 演示。
收到的錯誤
發表于 03-05 07:43
無法在Raspberry Pi 4中通過PyPI OpenVINO?安裝2022年運行時軟件包,為什么?
無法在 Raspberry* Pi 4 中通過 PyPI* 安裝OpenVINO? 2022 運行時軟件包。
發表于 03-05 07:31
安裝OpenVINO?工具包穩定擴散后報錯,怎么解決?
已安裝OpenVINO?工具包穩定擴散并收到錯誤消息:
\"BackendCompilerFailed: openvino_fx raised RuntimeError
發表于 03-05 06:56
在Windows? 11上安裝OpenVINO? 2021.4時,安裝程序崩潰了,安裝失敗怎么解決?
在 Windows? 11 上安裝OpenVINO? 2021.4 時,安裝程序崩潰了,安裝失敗。
發表于 03-05 06:50
使用Chaquo插件在Android操作系統中安裝OpenVINO工具套件遇到報錯,怎么解決?
使用 chaquo 插件在 Android* 操作系統中安裝 OpenVINO? 時遇到以下錯誤:
ERROR: Could not find a version that satisfies
發表于 03-05 06:06
OpenVINO2024 C++推理使用技巧
很多人都使用OpenVINO新版的C++ 或者Python的SDK,都覺得非常好用,OpenVINO2022之后的版本C++ SDK做了大量的優化與整理,已經是非常貼近開發的使用習慣與推理方式。與OpenCV的Mat對象對接方式更是幾乎無縫對接,非常的方便好用。
評論