视频简介:在 NVIDIA RTX 4080 上推理 YOLOv8s FP16 平均推理时延可达1ms (前处理+推理+后处理)
BGM: Low Roar - Don't Be So Serious
项目地址:https://github.com/laugh12321/TensorRT-YOLO
项目描述:🚀TensorRT-YOLO 是一款专为 NVIDIA 设备设计的易用灵活、极致高效的YOLO系列推理部署工具。项目不仅集成了 TensorRT 插件以增强后处理效果,还使用了 CUDA 核函数以及 CUDA 图来加速推理。TensorRT-YOLO 提供了 C++ 和 Python 推理的支持,旨在提供📦开箱即用的部署体验。包括 目标检测、实例分割、图像分类、姿态识别、旋转目标检测、视频分析等任务场景,满足开发者多场景的部署需求。