Awesome

C#调用OpenVINO™部署Al模型项目开发

简介

C#调用OpenVINO™部署Al模型项目开发项目，简称OpenVinoSharp，这是一个示例项目，该项目实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件，进行深度学习等Al项目在C#框架下的部署。该项目由C++语言编写OpenVINO™ API接口，并在C#语言下实现应用。

项目功能

项目可以实现在C#编程语言下调用Intel推出的 OpenVINO™ 工具套件，进行深度学习等Al项目在C#框架下的部署，目前可以支持的Al模型格式：

• Paddlepaddle 飞桨模型 (.pdmodel)

• ONNX 开放式神经网络交换模型 (.onnx)

• IR 模型 (.xml, .bin)

目前该项目针对 Paddlepaddle 飞桨现有模型进行了测试，主要有：

• PaddleClas 飞桨图像识别套件
• PaddleDetection 目标检测模型套件

针对 PaddleClas 、PaddleDetection ，该项目分别使用了飞桨提供的花卉分类模型以及车辆检测模型进行了测试，实现了该模型在三种格式下从模型本地读取、推理数据加载、模型推理、推理结果读取以及推理数据处理一整套Al模型的应用实现。

项目方案

该项目主要通过调用dll文件方式实现。通过C++调用OpenVINOTM，编写模型推理接口，将我们所用到的推理方法在C++中实现，并将其生成dll文件，在C#调用dll文件，重写dll文件接口，并重新组建Core类，用于在C#中进行模型的推理，其方案如图所示。

项目文档

想要更详细的了解该项目，请参阅[C#调用OpenVINOTM部署Al模型项目开发(AI Model Inference in OpenVINO and C#)](./doc/AI Model Inference in OpenVINO and C#.pdf)

使用环境

系统平台：

​ Windows

软件要求：

​ Visual Studio 2022 / 2019 / 2017

​ OpenCV 4.5.5

​ OpenVINO 2022.1

下载

在Github上克隆下载：

git clone https://github.com/guojin-yan/OpenVinoSharp.git

在Gitee上克隆下载：

git clone https://gitee.com/guojin-yan/OpenVinoSharp.git

项目配置

该项目基础项目为C++项目，外部引用了OpenVINO™ 与OpenCV，因此需要使用者根据自己电脑环境要求进行相关配置：

• 包含目录

  E:\OpenCV Source\opencv-4.5.5\build\include
  E:\OpenCV Source\opencv-4.5.5\build\include\opencv2
  C:\Program Files (x86)\Intel\openvino_2022.1.0.643\runtime\include
  C:\Program Files (x86)\Intel\openvino_2022.1.0.643\runtime\include\ie
  

• 库目录

  E:\OpenCV Source\opencv-4.5.5\build\x64\vc15\lib
  C:\Program Files (x86)\Intel\openvino_2022.1.0.643\runtime\lib\intel64\Release
  

• 附加依赖项

  opencv_world455.lib
  openvino.lib
  

其中：

E:\OpenCV Source\opencv-4.5.5 为OpenCV安装路径；

C:\Program Files (x86)\Intel\openvino_2022.1.0.643 为OpenVINO™ 安装路径。