onnx2trt-基于onnx的模型量化精度优化工具
Published on Tue, May 31, 2022 · Filed in Tools · 16 words (estimated 1 minutes to read)1. 模型量化基本概念
什么是量化?
什么是校准?
为什么需要开发这套工具?
2. 整体代码架构
代码的设计思路
代码架构图
3. 工具安装
4. 工具使用
Reference
代码参考:韩国人的代码
资料参考:英伟达的文档
什么是量化?
什么是校准?
为什么需要开发这套工具?
代码的设计思路
代码架构图
代码参考:韩国人的代码
资料参考:英伟达的文档