百度飞桨PP-YOLOE ONNX LabVIEW部署推理含源码

PP-YOLOE是百度在PP-YOLOv2基础上升级的一款单阶段Anchor-free模型，性能上已经超越了市面上多种主流YOLO变体。官方文档虽然详细介绍了Python端的部署方法，但关于如何在LabVIEW中落地这件事，目前能找到的资料确实不多。本文就分享一下在LabVIEW中完成PP-YOLOE ONNX模型推理的全过程，希望能给有同样需求的朋友一些参考。

一、什么是PP-YOLOE

• PP-YOLOE官方代码地址：https://github.com/PaddlePaddle/PaddleDetection
• PP-YOLOE论文地址：https://arxiv.org/pdf/2203.16250.pdf

PP-YOLOE采用Anchor-free架构，搭配强大的Backbone和Neck，引入了CSPRepResStage、ET-head以及动态标签分配算法TAL。针对不同应用场景，提供了s/m/l/x四个尺寸的模型，通过调整宽度和深度系数即可灵活配置。值得一提的是，它刻意避开了Deformable Convolution或Matrix NMS这类特殊算子，因此可以在各种硬件上更顺畅地部署。

以PP-YOLOE-l为例，在COCO test-dev2017上达到了51.6 mAP，而在Tesla V100上推理速度可达78.1 FPS。PP-YOLOE还支持一键导出ONNX格式，直接对接ONNX生态，这为跨平台部署提供了极大的便利。

二、环境搭建

1. 部署环境说明

• 操作系统：Windows10
• Python：3.6及以上
• LabVIEW：2018及以上 64位版本
• AI视觉工具包：techforce_lib_opencv_cpu-1.0.0.73.vip
• ONNX工具包：virobotics_lib_onnx_cuda_tensorrt-1.0.0.16.vip（1.0.0.16及以上版本）

2. 工具包下载与安装

• AI视觉工具包下载与安装可参考相关教程（这里不再列举具体URL）
• ONNX工具包下载与安装同理

三、模型获取与转化

注意：本文已为大家准备了PP-YOLOE的ONNX模型，可直接进入第四步进行推理。如果想了解如何自行导出ONNX模型，可继续阅读本节。

PP-YOLOE官方未直接提供ONNX权重，但可以利用paddle2onnx工具进行转换。

1. 安装Paddle

打开百度飞桨官网（https://www.paddlepaddle.org.cn/），在快速安装区域选择适合自己环境的版本。在cmd中执行安装命令，例如：

python -m pip install paddlepaddle-gpu==2.3.1.post112 -f https://www.paddlepaddle.org.cn/whl/windows/mkl/a vx/stable.html

2. 安装依赖库

从GitHub下载PaddleDetection并解压到本地目录（https://github.com/PaddlePaddle/PaddleDetection），将PaddleDetection根目录添加到环境变量。然后在PaddleDetection-release-2.4文件夹中打开cmd，执行：

pip3 install -U pip && pip3 install -r requirements.txt

3. 安装pycocotools

pip install pycocotools

如果遇到编译错误，可以尝试：

pip install pycocotools-windows

4. 导出ONNX模型

（1）导出推理模型

python tools/export_model.py -c configs/ppyoloe/ppyoloe_crn_l_300e_coco.yml --output_dir=output_inference -o weights=https://paddledet.bj.bcebos.com/models/ppyoloe_crn_l_300e_coco.pdparams

（2）安装paddle2onnx

pip install paddle2onnx

（3）转换成ONNX格式

paddle2onnx --model_dir output_inference/ppyoloe_crn_l_300e_coco --model_filename model.pdmodel --params_filename model.pdiparams --opset_version 11 --sa ve_file ppyoloe_crn_l_300e_coco.onnx

至此就成功导出了PP-YOLOE的ONNX模型。

注意：ONNX模型目前只支持 batch_size=1。

四、LabVIEW中实现PP-YOLOE推理

项目的整体文件结构如下图所示（省略具体文件夹截图），完整源码可从文末获取。如果对LabVIEW+AI技术感兴趣，欢迎交流讨论。

1. 图像目标检测：pp-yolox_main.vi

利用LabVIEW ONNX工具包中的Create_Session.vi加载模型，可选择CPU或CUDA进行推理加速。

（1）查看模型结构

使用Netron（https://netron.app/）打开ppyoloe_crn_s_300e_coco.onnx，可以看到网络结构：

模型的输入输出如下：

模型有两个输入和两个输出，因此推理时需要利用多输入处理模块。图片输入尺寸为640×640，第一个输出维度为8400×6（6对应类别ID、置信度、边界框坐标）。

（2）实现过程

• 读取图片并进行预处理（归一化到-1~1）

• 初始化Vector_Value，新增两个输入tensor（图片及scale_factor）

• 加载模型并选择加速类型（CPU/CUDA/TensorRT）

• 执行多输入推理

• 获取第一层输出

• 后处理

• 绘制检测框及置信度

（3）运行演示

配置好环境后，将ONNX模型放入model文件夹（本文已提供ppyoloe_crn_s_300e_coco.onnx），打开pp_yolo_main.vi，修改模型路径和图片路径，运行即可得到检测结果。

• 主程序源码：

• 检测效果：

可以更换其他图片测试。

2. 实时目标检测：ppyolo_camera.vi

实时检测推荐使用CUDA加速，整体流程与图像检测基本一致。

（1）实时检测源码

（2）实时检测效果

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：百度飞桨PP-YOLOE ONNX LabVIEW部署推理含源码要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题