加速！YOLOv3 TensorRT+DeepSort 目标跟踪

2020 年 4 月 18 日 CVer

点击上方“CVer”，选择加"星标"或“置顶”

重磅干货，第一时间送达

本文作者：史蒂芬方

https://zhuanlan.zhihu.com/p/129290729

本文已由原作者授权，不得擅自二次转载

前言

最近刚好需要利用目标跟踪整一些项目，于是不太熟悉tensorflow的我找了一下torch的实现，不过找到的项目还是最基本的yolov3或者tiny的实现，在速度上稍微慢一些，实际在nano上实测约750ms左右的速度，于是就启动了这个加速版本yolov3搭配deepsort的推断项目，这篇文并不会说明完整的实现过程，只会说明到一些实现的步骤

TrackLite 项目链接：

https://github.com/Stephenfang51/tracklite

运行环境

JetsonNano，这里其实一般的x64结构都可以运行的，而且速度一定更快
Jetpack 自带TensorRT 5.1.6.1
onnx 1.4.0 ，这里1.4.1也是可以的注意就这两个版本其余都不要！

简要的实现概述

利用onnx将darknet权重输出为onnx格式，这部分利用原先tensorrt自带的sample即可完成，但不同的是我的文件支持python3， github上很多转换文件必须用的python2，太麻烦
利用tensorRT将输出后的onnx转换为engine，同样利用trt官方sample可完成
保持原来TensorRTsample 的preprocess， postprocess部分，其中postprocess做了一些修改为了将输出与deepsort的postprocess进行合并，否则会有bbox偏移的问题
OpenCV实现支持onboard webcam / usb webcam / video tracking

速度表现

这里速度评测都是从摄像头截取第一帧之后开始，到最终整个deepsort图像后处理完

如果单纯计算img从输入到engine到engine输出的情况下， end-to-end的速度如下

接下来就看一下实际路上追踪行人的效果，我觉得是非常不错的

实现效果：

检测路上的行人效果是很好的，看完整视频的效果移步到bilibili

扫描下方二维码即可查看视频：

https://www.bilibili.com/video/BV1F54y197hj

项目地址

tracklite 觉得有用可以小小的star please

https://github.com/Stephenfang51/tracklite

任何问题欢迎issue，也欢迎一起交流讨论工程上的一些实现

后续

接下来还是会继续更新一下关于x64结构上的实现，继续评测一下速度的表现

还有最重要的继续挖掘强大的跟踪算法融入到项目中，并且得支持tensorRT才可以

重磅！CVer-目标跟踪 微信交流群已成立

扫码添加CVer助手，可申请加入CVer-目标跟踪 微信交流群，目前已汇集1200人！涵盖单目标跟踪、多目标跟踪等。互相交流，一起进步！

同时也可申请加入CVer大群和细分方向技术群，细分方向已涵盖：目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、TensorFlow和PyTorch等群。

一定要备注：研究方向+地点+学校/公司+昵称（如目标跟踪+上海+上交+卡卡），根据格式备注，可更快被通过且邀请进群