TensorRT

TensorRT 是英伟达推出的框架无关推理优化工具集，旨在为搭载英伟达技术的边缘设备优化模型部署。它简化推理流程，提升跨多种深度学习框架的性能与效率。