onnx2trt-基于onnx的模型量化精度优化工具
· Tools · 1 min read
1. 模型量化基本概念
什么是量化?
什么是校准?
为什么需要开发这套工具?
2. 整体代码架构
代码的设计思路
代码架构图
3. 工具安装
4. 工具使用
Reference
代码参考:韩国人的代码
资料参考:英伟达的文档
· Tools · 1 min read
什么是量化?
什么是校准?
为什么需要开发这套工具?
代码的设计思路
代码架构图
代码参考:韩国人的代码
资料参考:英伟达的文档