Xavier上TensorRT和Pytorch运行时间对比
跑了一下CenterNet的结果,对比如下:
- Pytorch float数据类型,512x512输入,11FPS
- Pytorch half数据类型,512x512输入,16FPS
- TensorRT float数据类型,512x512输入,15.6FPS
- TensorRT hals数据类型,512x512输入,21.7FPS
TensorRT的效果没有手册里面说的那么夸张。
跑了一下CenterNet的结果,对比如下:
TensorRT的效果没有手册里面说的那么夸张。