项目

每个页面介绍一个项目:要解决的问题、分步的方法、结果和经验。数字来自内部实测;如果某个结果只适用于特定模型或配置,页面中会注明。

model families and their quantization difficulties约 19 个量产模型可以归为 8 类,每一类有自己的量化难点单目 3D 检测纯卷积主干 + 关键点头量化难点INT8 基本无损;要盯输出位宽,以及混合精度训练的下溢前视多任务 2D卷积主干 + query 检测头量化难点TopK、可变形采样、LayerNorm、Softmax:INT8/INT16 混合精度 + 两阶段蒸馏LiDAR 检测与分割Pillar 编码 + BEV 卷积量化难点scatter 无法定点执行,改写成gather;输入 1 LSB 的扰动就会改变输出行车 Occupancy多相机 + LiDAR,网格投影 + 时序记忆量化难点采样网格需要 INT16;时序隐状态回灌要求输入输出 scale 相等矢量地图BEV 特征 + 多个 query 折线解码器量化难点解码器用 INT16 激活;softmax 改写成分段查表;耗时取决于节点数而非算力稀疏 4D 检测与跟踪实例 query + 可变形采样 + 跨帧实例量化难点解码器全 INT16;投影除法固定scale;大量查表算子预测 + 规划结构化输入 + 多步迭代生成轨迹量化难点整图 INT16;误差沿深度与迭代步累积,必须全量 QAT端到端规划感知到规划一体,直接输出轨迹量化难点微小数值差异随时间放大:用大规模量化感知蒸馏对齐浮点
约 19 个量产模型可以归为 8 类,每一类有自己的量化难点:量化不是把同一件事重复 19 次。
2 → 0.5个点的量化掉点(PTQ → QAT,5 个感知模型)

从 PTQ 到 QAD:与浮点模型一致的量化

轻舟智航 · 2023 – 2026

量产驾驶模型的量化方案如何经历四代演进,以及为什么量产需要的是逐 case 与浮点模型一致,而不是一个好看的平均指标。

查看详情 →

0.217 LSB600 个查表模块的加权平均误差

非线性算子的自适应查表

轻舟智航 · 2026

一种由误差驱动的定点查表分段算法。它只在真实定点误差高的地方细分,每个算子用 12–30 张表即可保证最大误差不超过 2 LSB,而不是统一的 126 张表。

查看详情 →

12个阶段间检查点,从相机数据到板端输出

分层数值一致性与发版门禁

轻舟智航 · 2024 – 2026

从实车数据到板端后处理,把部署链路的每个阶段都与前一阶段在相同输入下比对,让每个不一致只可能来自一个地方;再配合分级发版门禁,把未经验证的结果挡在车外。

查看详情 →

6个环节组成一条主链路,身份清单贯穿始终

平台化量化部署框架:一个真值、一份契约、默认阻断

轻舟智航 · 2026.11 起

量化框架搭好之后,剩下的难点是精度靠手调、误差难定位、训练与部署对不齐。这是我牵头的目标架构设计:以定点模型为唯一真值,用带版本的契约连接训练、转换和车端,每一跳默认阻断。目前是设计稿。

查看详情 →

0.7%误差,预测 19.38 ms,实测 19.25 ms

写代码之前,先预测板端耗时

轻舟智航 · 2025 – 2026

一个用板端数据校准的分模块耗时模型,对扩大后的 Occupancy 模型预测误差仅 0.7%。它在写代码之前就对六种部署方案排了序,并促成五个感知模型共享 backbone。

查看详情 →

5 → 1套图像编码器(backbone + neck)

OneModel:五个感知任务共享一个视觉编码器

轻舟智航 · 2026

把五个感知模型的图像 backbone 和 neck 合成一个:耗时账怎么算,新 backbone 的规模怎么定,预训练权重怎么从已发版模型合成,以及再往前一步的端到端架构设计。项目进行中。

查看详情 →

4,273次量产模型转换

QNN Web:面向所有芯片的一键模型转换

轻舟智航 · 2022 – 2026

一个内部服务:上传一个模型,就得到所有目标芯片的 engine。2022–2023 年为消除手工、易错的转换而开发;2026 年为可靠性重构,并增加 MCP 接口,让 AI Agent 也能使用。

查看详情 →

350 TOPS目标芯片,对标 J6M

新芯片上的城市 NOA(爱芯 M95)

轻舟智航 · 2026

担任把轻舟城市 NOA 方案迁移到新芯片平台的技术负责人:从 700 TOPS 开发板到 350 TOPS 的 M95 分阶段适配,负责模型适配与量化和路测问题聚类。v4 方案已在测试车上运行。

查看详情 →

> 0.999INT8 与浮点输出的 cosine 相似度

云端 GPU 模型的 TensorRT INT8 与 onnx2trt

腾讯地图 · 2021 – 2022

为腾讯地图云端 GPU 模型搭建的 INT8 量化部署流程:与浮点 cosine 相似度高于 0.999,耗时降低 20%,GPU 占用和显存各降低 10%,节省约 300 万元算力成本。其中的校准工具开源为 onnx2trt。

查看详情 →

AR 导航感知 SDK

腾讯地图 · 2021 – 2022

面向手机和车机的 AR 导航感知 SDK:多流程并行框架加自动 profile。四个月完成 12 项功能,CPU 占用低于 70%,在江铃 CX743 量产车型上线。

查看详情 →

NBT 评测平台

NBT 评测平台

腾讯地图 · 2021 – 2022

内部评测网站:模型与数据管理、算法评测、结果管理和数据共享,并预留 badcase 分析、回流数据管理和建图结果展示接口。

查看详情 →