PyTorch-Quantization 量化工具包实战指南：从模拟量化训练到 TensorRT INT8 部署

PyTorch-Quantization 量化工具包实战指南从模拟量化训练到 TensorRT INT8 部署【免费下载链接】TensorRTNVIDIA® TensorRT™ is an SDK for high-performance deep learning inference on NVIDIA GPUs. This repository contains the open source components of TensorRT.项目地址: https://gitcode.com/GitHub_Trending/tens/TensorRTPyTorch-Quantization 是 NVIDIA TensorRT 开源仓库tools/pytorch-quantization下的一套 PyTorch 量化工具包仓库内版本 2.2.1见 VERSION用于以“模拟量化Simulated Quantization”的方式训练与评估量化模型其产物可导出为 ONNX 并被 TensorRT 8.0 及更高版本导入执行充分发挥整数 Tensor Core 的高性能推理能力。读完本文你将掌握该工具包的安装方式、QuantDescriptor/TensorQuantizer核心概念、自动与手动量化、四种校准方法、量化感知训练QAT以及 ONNX 导出部署到 TensorRT 的完整链路。维护状态说明据 README.md 开头声明PyTorch-Quantization 的后续开发已移交 NVIDIA 的 TensorRT Model Optimizer官方建议新项目迁移至 Model Optimizer 以获取最新的量化与压缩能力本工具包代码仍保留可用但不再继续演进。本文内容以当前仓库实际代码与文档为准。1. 工具包定位与仓库结构PyTorch-Quantization 的核心定位摘自 README.md可以概括为三点模拟量化训练与评估量化既可以自动加入模型也可以手动加入以便针对精度与性能进行调优与整数 Tensor Core 兼容量化模型可直接适配 NVIDIA 的高性能整数内核ONNX 导出 TensorRT 部署量化后的模型可导出为 ONNX由 TensorRT 8.0 及以后版本导入并执行。从源码结构看工具包分为以下几个层次各模块均有对应测试见 tests/ 目录目录/文件职责pytorch_quantization/tensor_quant.py底层量化函数tensor_quant/fake_tensor_quant、QuantDescriptor描述符与预置描述符pytorch_quantization/quant_modules.py模块级自动替换monkey patching与 ONNX 导出开关pytorch_quantization/nn/TensorQuantizer模块与QuantConv*/QuantLinear/QuantLSTM等量化模块pytorch_quantization/calib/MaxCalibrator/HistogramCalibrator等校准器pytorch_quantization/optim/helper.py量化训练辅助参数分组、冻结、就地量化等src/C/CUDA 扩展tensor_quant.cpp、tensor_quant_gpu.cu提供 GPU 上的高性能量化内核examples/分类模型完整流程脚本与两个 Jupyter Notebook 教程docs/source/Sphinx 用户指南核心见 userguide.rst2. 安装与运行环境README 提供了三种安装途径覆盖从快速试用到源码定制的全部场景。2.1 二进制安装pippip install pytorch-quantization --extra-index-url https://pypi.ngc.nvidia.com该命令从 NGC 的 PyPI 镜像拉取预编译包适合无需改动源码的常规使用。2.2 源码安装获取仓库源码并进入工具包目录git clone TensorRT 仓库地址 cd tools/pytorch-quantization先安装 PyTorch 与依赖pip install -r requirements.txt # for CUDA 10.2 users pip install torch1.9.1 # for CUDA 11.1 users pip install torch1.9.1cu111然后构建并安装# Python version 3.7, GCC version 5.4 required python setup.py install几点环境细节源自仓库实际文件requirements.txt 声明的运行依赖为numpy、absl-py0.7.0、scipy、sphinx_glpi_theme、prettytable、pyyaml其中scipy服务于直方图校准中的熵计算见 calib/histogram.py 中对scipy.stats.entropy的引用setup.py 使用 PyTorch 的torch.utils.cpp_extensionCppExtension/CUDAExtension/BuildExtension编译src/下的 C 与 CUDA 扩展因此要求本机具备可用的 CUDA 编译工具链setup.py会在构建时依据 VERSION 生成pytorch_quantization/version.py当前仓库版本为2.2.1。2.3 NGC 容器pytorch-quantization已预装在 NVIDIA NGC PyTorch 容器中例如nvcr.io/nvidia/pytorch:22.12-py3拉取对应容器镜像后可直接import pytorch_quantization使用无需额外安装。3. 核心概念量化函数、描述符与量化器理解工具包的第一步是理清“量化函数 → 量化描述符 → 量化器模块 → 量化模块”这条从底层到上层的抽象链。3.1 两个基础量化函数tensor_quant与fake_tensor_quantuserguide.rst 指出pytorch_quantization/tensor_quant.py 暴露了两个基础函数tensor_quant(inputs, amax, num_bits8, output_dtypetorch.float, unsignedFalse) fake_tensor_quant(inputs, amax, num_bits8, output_dtypetorch.float, unsignedFalse)tensor_quant返回真正的整数量化结果整数取值以及缩放因子scalefake_tensor_quant返回伪量化结果仍为浮点数值模拟量化误差但不改变数据类型前向时数据被舍入到量化网格上。用户指南给出的示例固定随机种子保证可复现from pytorch_quantization import tensor_quant # Generate random input. With fixed seed 12345, x should be # tensor([0.9817, 0.8796, 0.9921, 0.4611, 0.0832, 0.1784, 0.5676, 0.3376, 0.2119]) torch.manual_seed(12345) x torch.rand(10) # fake quantize tensor x. fake_quant_x will be # tensor([0.9843, 0.8828, 0.9921, 0.4609, 0.0859, 0.1797, 0.3672, 0.5703, 0.3359, 0.2109]) fake_quant_x tensor_quant.fake_tensor_quant(x, x.abs().max()) # quantize tensor x. quant_x will be # tensor([126., 113., 127., 59., 11., 23., 47., 73., 43., 27.]) # with scale128.0057 quant_x, scale tensor_quant.tensor_quant(x, x.abs().max())从 tensor_quant.py 的_tensor_quant共享实现可以看清量化公式max_bound (2.0**(num_bits - 1 int(unsigned))) - 1.0 scale max_bound / amax outputs torch.clamp((inputs * scale).round_(), min_bound, max_bound)即先由amax决定缩放因子scale max_bound / amax再执行round(clamp(x * scale))。实现细节还包括narrow_rangeTrue默认时使用对称整数区间[-127, 127]8bit 场景否则使用[-128, 127]unsignedTrue时区间为[0, 255]计算在 FP32 中进行以防溢出输入/amax为 FP16 时会先提升精度当amax小于 FP16 可表示的最小值1/(124)时对应位置量化结果置零、scale置 1避免除零与溢出两个函数的前向在 GPU 上走 CUDA 扩展src/tensor_quant_gpu.cu非 CUDA 输入则回退到 CPU 参考实现。两者的反向传播都采用直通估计器Straight-Through Estimator, STE在[-amax, amax]区间内梯度原样通过区间外梯度置零见 tensor_quant.py 的backward实现。这是量化感知训练得以进行的基础。3.2QuantDescriptor量化方式的描述符QuantDescriptor描述一个张量应当如何被量化tensor_quant.py关键参数如下参数默认值含义num_bits8量化位宽可以是正整数也可以是常量元组(4, 3)表示模拟 NVIDIA FP8 的E4M3浮点量化E4M3 仅支持 per-tensor 量化nameNone描述符名称便于日志与调试fake_quantTrue是否使用伪量化模式输出仍为浮点axisNone按哪个/哪些轴分别计算缩放因子None表示 per-tensor。取值范围[-rank, rank)例如 KCRS 权重张量axis(0)即 per-channel 量化amaxNone用户指定的绝对最大值范围指定后忽略axis。若learn_amaxTrue则用作可学习 amax 的初始化值learn_amaxFalse是否将 amax 作为可学习参数通过 clip 阶段学习为 True 时axis必须为Nonescale_amaxNone对 amax 的缩放系数适合快速实验如 SmoothQuant 的通道缩放调整calib_methodmax校准方法max或histogramunsignedFalse是否使用无符号量化narrow_rangeFalse描述符默认/True量化函数默认是否使用对称窄区间如 8bit 的[-127,127]工具包预置了一批常用描述符tensor_quant.pyQUANT_DESC_8BIT_PER_TENSOR QuantDescriptor(num_bits8) QUANT_DESC_8BIT_CONV1D_WEIGHT_PER_CHANNEL QuantDescriptor(num_bits8, axis(0)) QUANT_DESC_8BIT_CONV2D_WEIGHT_PER_CHANNEL QuantDescriptor(num_bits8, axis(0)) QUANT_DESC_8BIT_CONV3D_WEIGHT_PER_CHANNEL QuantDescriptor(num_bits8, axis(0)) QUANT_DESC_8BIT_LINEAR_WEIGHT_PER_ROW QuantDescriptor(num_bits8, axis(0)) QUANT_DESC_8BIT_CONVTRANSPOSE1D_WEIGHT_PER_CHANNEL QuantDescriptor(num_bits8, axis(1)) QUANT_DESC_8BIT_CONVTRANSPOSE2D_WEIGHT_PER_CHANNEL QuantDescriptor(num_bits8, axis(1)) QUANT_DESC_8BIT_CONVTRANSPOSE3D_WEIGHT_PER_CHANNEL QuantDescriptor(num_bits8, axis(1))可以看到常规卷积/线性层的权重采用per-channelaxis(0)而转置卷积权重由于通道维在轴 1采用axis(1)激活则统一走 per-tensor 的QUANT_DESC_8BIT_PER_TENSOR。3.3TensorQuantizer量化张量的模块封装TensorQuantizernn/modules/tensor_quantizer.py由QuantDescriptor定义负责在模块前向中对张量执行量化并维护训练所需的变量与统计。其forwardtensor_quantizer.py按顺序经过多个阶段ONNX 导出就绪检查当_enable_onnx_export为真时断言量化器已完成校准注册了_amaxbuffer否则抛出异常pre_quant_scale若设置了该缩放SmoothQuant 风格的激活预缩放先对输入乘以缩放系数disabled 旁路disable()后整个模块直接透传输入calib 阶段enable_calib()后调用校准器的collect(inputs)收集统计信息此时应配合disable_quant()使用全精度数据clip 阶段learn_amaxTrue时先经可学习Clip模块裁剪amax 由max(-clip_min, clip_max)决定quant 阶段调用fake_tensor_quant/tensor_quant位宽为元组(4,3)时走scaled_e4m3FP8 路径完成量化。配套的关键方法与属性包括load_calib_amax(*args, **kwargs)tensor_quantizer.py从校准器取出 amax 写入 bufferstrictFalse时允许校准器未收集到数据amax 置 NaN 并告警enable_calib/disable_calib/enable_quant/disable_quant/enable/disable/enable_clip/disable_clip各阶段的开关step_size属性amax / (2^(num_bits-1unsigned) - 1)即量化步长E4M3 时maxbound448.0。3.4 量化模块家族pytorch_quantization.nn常以quant_nn导入提供了与torch.nn对应的量化版本例如QuantConv1d/2d/3d、QuantConvTranspose*、QuantLinear、QuantLSTM/LSTMCell、QuantAvgPool*、QuantAdaptiveAvgPool*等完整替换映射见 quant_modules.py。这些模块在原有参数基础上额外接收quant_desc_input与quant_desc_weight两个描述符并设置了合理的默认值——以 nn/modules/quant_conv.py 与 nn/modules/quant_linear.py 为例QuantConv2d输入默认QUANT_DESC_8BIT_PER_TENSOR权重默认QUANT_DESC_8BIT_CONV2D_WEIGHT_PER_CHANNELQuantLinear输入默认 per-tensor权重默认QUANT_DESC_8BIT_LINEAR_WEIGHT_PER_ROWper-row/per-channel。手动构造量化模块的示例摘自 userguide.rstfrom torch import nn from pytorch_quantization import tensor_quant import pytorch_quantization.nn as quant_nn # pytorchs module fc1 nn.Linear(in_features, out_features, biasTrue) conv1 nn.Conv2d(in_channels, out_channels, kernel_size) # quantized version quant_fc1 quant_nn.Linear( in_features, out_features, biasTrue, quant_desc_inputtensor_quant.QUANT_DESC_8BIT_PER_TENSOR, quant_desc_weighttensor_quant.QUANT_DESC_8BIT_LINEAR_WEIGHT_PER_ROW) quant_conv1 quant_nn.Conv2d( in_channels, out_channels, kernel_size, quant_desc_inputtensor_quant.QUANT_DESC_8BIT_PER_TENSOR, quant_desc_weighttensor_quant.QUANT_DESC_8BIT_CONV2D_WEIGHT_PER_CHANNEL)4. 自动量化与手动量化4.1 自动量化quant_modules.initialize()对于完全由标准模块组成的模型后训练量化PTQ只需一行调用userguide.rstfrom pytorch_quantization import quant_modules model torchvision.models.resnet50()其底层机制是monkey patching见 quant_modules.pyinitialize()通过全局辅助对象QuantModuleReplacementHelper将torch.nn中的Conv2d、Linear、LSTM、AvgPool2d等见_DEFAULT_QUANT_MAP替换为对应的quant_nn量化版本并保存原始模块以便恢复。两个可选参数提供了细粒度控制float_module_list拒绝列表其中的模块名不做替换保持浮点custom_quant_modules自定义映射用于为torch.nn之外的模块指定量化版本。配套的quant_modules.deactivate()会把被替换的模块恢复为原始浮点版本enable_onnx_export()是上下文管理器进入后设置TensorQuantizer._enable_onnx_export True用于 ONNX 导出前开启就绪检查见 quant_modules.py。4.2 手动量化如果模型并非完全由模块构成例如某些激活路径是裸函数则需要手动创建TensorQuantizer并插入到模型中的正确位置。用户指南给出了组合使用的示例from pytorch_quantization.tensor_quant import QuantDescriptor from pytorch_quantization.nn.modules.tensor_quantizer import TensorQuantizer quant_desc QuantDescriptor(num_bits4, fake_quantFalse, axis(0), unsignedTrue) quantizer TensorQuantizer(quant_desc) torch.manual_seed(12345) x torch.rand(10, 9, 8, 7) quant_x quantizer(x)注意QuantDescriptor的axis语义与max()的 axis相反它指定的是“保留并分别缩放”的轴若描述符中给出amax则直接使用否则按axis实时计算 amax 后再量化。自定义量化模块的完整范例可参考 docs/source/tutorials/creating_custom_quantized_modules.rst。5. 校准CalibrationPTQ 的关键步骤校准是 TensorRT 语境下的术语向量化器喂入数据样本为激活确定最优amax。校准得到的 amax 将作为后续量化的缩放依据因此校准数据的选择与校准方法的选取直接决定 PTQ 精度。5.1 四种校准方法用户指南列出了 4 种校准方法其中 3 种由直方图校准器实现方法说明源码实现max直接使用全局绝对最大值calib/max.py 的MaxCalibratorentropyTensorRT 风格的信息熵KL 散度校准calib/histogram.py 的_compute_amax_entropypercentile按给定百分位剔除离群点_compute_amax_percentilemse基于最小均方误差的校准_compute_amax_mse底层设计上_Calibrator是抽象基类calib/calibrator.py约定collect(x)收集统计、reset()复位、compute_amax()计算 amax三个接口MaxCalibrator维护全局运行最大值collect时对输入取绝对值并按axis归约逐批与已收集值取maxHistogramCalibrator以直方图形式收集一次数据默认num_bins2048仅支持 per-tensorcompute_amax(method, *, stride1, start_bin128, percentile99.99)按方法计算最优阈值stride/start_bin用于 KL 搜索网格percentile默认 99.99。直方图既可用torch.histc在 GPU 上采集默认torch_histTrue也支持 numpy 采集。5.2 校准实操代码以下是在 ResNet50 上执行mse校准的完整流程摘自 userguide.rst# Find the TensorQuantizer and enable calibration for name, module in model.named_modules(): if name.endswith(_quantizer): module.enable_calib() module.disable_quant() # Use full precision data to calibrate # Feeding data samples model(x) # ... # Finalize calibration for name, module in model.named_modules(): if name.endswith(_quantizer): module.load_calib_amax() module.disable_calib() module.enable_quant() # If running on GPU, it needs to call .cuda() again because new tensors will be created by calibration process model.cuda() # Keep running the quantized model要点总结校准阶段先enable_calib()disable_quant()让模型以全精度运行并让每个量化器收集统计喂入若干批校准数据覆盖有代表性的输入分布最后load_calib_amax()将 amax 写入 buffer恢复disable_calib()enable_quant()由于校准过程创建了新张量GPU 上运行需再次调用model.cuda()校准必须在导出 ONNX 之前完成。6. 量化感知训练QAT6.1 原理QAT 建立在 STE 导数近似之上用户指南特别指出由于 STE 近似使训练“感知不到”量化作者更倾向称之为“基于 STE 的训练”而非“量化感知训练”。前向使用伪量化保留量化误差反向按 STE 规则回传梯度从而让网络在存在量化误差的条件下继续收敛。6.2 训练策略用户指南给出的默认 QAT 策略是校准完成后继续用原有训练计划的一小部分进行微调——通常约为原始训练计划的 10%起始学习率为原始训练的 1%采用余弦退火cosine annealing沿余弦周期下降的一半衰减最终降到微调起始学习率的 1%即原始训练学习率的 0.01%。6.3 经验建议用户指南总结了基于实践的两条建议使用较小的学习率STE 近似会引入方差过大的学习率容易放大该方差并毁掉已训练好的网络训练期间不要频繁改变量化表示scale每一步都改变 scale 等价于每一步都更换数据格式如 e8m7、e5m10、e3m4 等极易影响收敛。6.4 训练辅助工具optim/helper.py 提供了一批面向 QAT 的实用函数match_parameters(model, patterns)按正则模式匹配并产出参数便于分组处理group_parameters(model, patterns_list, lrsNone, momentumsNone, weight_decaysNone)按模式分组生成符合 PyTorch optimizer 规范的参数组{params: ..., lr: ...}freeze_parameters(model, patterns)按模式将参数requires_grad置 Falsequant_weight_inplace(model)对含_weight_quantizer的模块就地执行权重量化可用于实现 relax-and-round 等离散优化方法真实量化就地执行仅建议推理阶段使用。此外learn_amaxTrue时 amax 会作为可学习参数通过Clip模块在训练中更新TensorQuantizer.init_learn_amax()可用校准后的 amax 初始化可学习范围。7. 导出 ONNX 并部署 TensorRT7.1 导出目标与约束工具包导出 ONNX 的目标是部署到 TensorRT而非 ONNX Runtime因此只导出 TensorRT 可消费的形态。约束条件见 userguide.rst 的 Note目前仅支持导出int8 与 fp8 的伪量化模块量化模块必须先完成校准再导出需要enable_onnx_checkerFalse原因见下文 opset 说明。7.2 导出代码标准导出流程int8 场景摘自 userguideimport pytorch_quantization from pytorch_quantization import nn as quant_nn from pytorch_quantization import quant_modules quant_modules.initialize() model torchvision.models.resnet50() # load the calibrated model state_dict torch.load(quant_resnet50-entropy-1024.pth, map_locationcpu) model.load_state_dict(state_dict) model.cuda() dummy_input torch.randn(128, 3, 224, 224, devicecuda) input_names [ actual_input_1 ] output_names [ output1 ] with pytorch_quantization.enable_onnx_export(): # enable_onnx_checker needs to be disabled. See notes below. torch.onnx.export( model, dummy_input, quant_resnet50.onnx, verboseTrue, opset_version10, enable_onnx_checkerFalse )7.3 导出的底层形态从 tensor_quant.py 的symbolic实现可以看清导出形态int8 伪量化会被拆解为一对QuantizeLinear/DequantizeLinearONNX 算子_onnx_int8_helperTensorRT 拿到该图后会以最优化方式在 INT8 下执行用户指南 Note 提示axis从 opset 13 起才加入QuantizeLinear/DequantizeLinear这是示例使用opset_version10并关闭 onnx checker 的原因之一**FP8E4M3**导出使用自定义算子trt::TRT_FP8QuantizeLinear/trt::TRT_FP8DequantizeLinear见_onnx_fp8_quantize/_onnx_fp8_dequantize且 FP8 ONNX 导出要求标量scale因此 E4M3 仅支持 per-tensor 量化TensorQuantizer._check_onnx_readiness会对非标量 amax 断言失败。导出前的就绪检查逻辑位于 nn/modules/tensor_quantizer.py未校准无_amax会直接断言报错处于校准模式会给出警告E4M3 场景强制 per-tensor amax。8. 端到端实战基于 classification_flow.py 的完整流水线仓库在 examples/torchvision/classification_flow.py 提供了一个覆盖“校准 → 微调 → ONNX/TRT 导出评估”全流程的分类任务脚本并配套两个 Notebook 教程calibrate_quant_resnet50.ipynb校准与 finetune_quant_resnet50.ipynb微调。ResNet50 专用流程文档见 docs/source/tutorials/quant_resnet50.rst。8.1 命令行参数总览脚本的完整参数classification_flow.py参数简写默认值说明--data-dir-d必填ImageNet 风格数据目录含 train/val 子目录--model-name-mresnet50torchvision 模型名--disable-pcq-dpcqFalse关闭权重 per-channel 量化强制 per-tensor便于 ONNX Runtime 兼容--out-dir-o/tmp输出目录checkpoint/ONNX/TRT 文件--print-freq-pf20评估打印频率--threshold-t-1.0Top1 精度阈值0 表示不做比较--fp16-False以 FP16 训练/评估/导出--batch-size-train-128训练 batch size--batch-size-test-128测试 batch size--batch-size-onnx-1ONNX 评估 batch size--seed-12345随机种子--ckpt-path/--ckpt-url/--pretrained-互斥必选其一模型初始化来源--num-calib-batch-4校准批数0 关闭校准--num-finetune-epochs-0微调轮数0 关闭微调--calibrator-maxmax或histogram--percentile-[99.9, 99.99, 99.999, 99.9999]直方图校准的百分位列表--sensitivity-False构建逐层敏感度分析sensitivity profile--evaluate-onnx-False导出并评估 ONNX--evaluate-trt-False导出并评估 TensorRT8.2 执行流程main()classification_flow.py按以下顺序执行准备模型与数据prepare_model()中若disable_pcq为真则显式将 Conv/Linear 的输入与权重描述符设为 per-tensor源码注释说明per-channel 权重量化当前不被 ONNX-RT/PyTorch 导出支持模型构建优先使用models/classification/resnet.py中带quantizeTrue的预量化定义否则回退到quant_modules.initialize() torchvision 模型 deactivate()初始精度评估记录浮点基线 Top1校准calibrate_model()classification_flow.py内部调用collect_stats()与compute_amax()——collect_stats遍历TensorQuantizer打开校准、关闭量化并喂数据compute_amax按校准器类型调用load_calib_amax(method...)并将带 amax 的 state_dict 保存为${model}-{method}-{num_calib_batch*batch_size}.pth如resnet50-mse-512.pth其中 512 4 批 × 128逐层敏感度分析可选--sensitivitybuild_sensitivity_profile()逐层开启量化、其余层禁用评估单层量化对精度的独立影响微调可选SGD 优化器、初始 lr0.0001配合CosineAnnealingLR训练num_finetune_epochs轮导出与评估export_onnx导出model.onnx并可选用 ONNX Runtime 评估export_trt导出model.trt并可选评估 TensorRT汇总输出以表格打印Initial / Calibrated / Finetuned / ONNX / TRT各阶段 Top1并用--threshold校验精度是否达标。9. 测试与验证仓库自带的 tests/ 覆盖了工具包的几乎全部功能面是验证理解与二次开发的绝佳参考底层量化tensor_quant_test.py、functional_test.py 覆盖量化函数与数值正确性模块层quant_conv_test.py、quant_conv_transposed_test.py、quant_linear_test.py、quant_pooling_test.py、quant_rnn_test.py、quant_instancenorm_test.py、quant_modules_test.py 验证各量化模块与自动替换量化器与校准tensor_quantizer_test.py、calibrator_test.py、clip_test.py端到端test_onnx_export.py 验证 ONNX 导出形态integration_test.py 与 classification_flow_test.py 验证整体流程。10. 注意事项与常见问题校准先于导出ONNX 导出要求所有量化器均已校准_check_onnx_readiness直接断言未校准模型导出会报错int8/fp8 支持范围导出仅支持 int8 与 fp8E4M3伪量化E4M3 仅支持 per-tensor 量化导出要求标量 amaxopset 与 checker示例使用opset_version10并关闭enable_onnx_checker因为axis到 opset 13 才加入QuantizeLinear/DequantizeLinearper-channel 权重的部署边界per-channel 权重量化在 PyTorch 侧训练/推理可用但 ONNX-RT 导出评估不受支持见classification_flow.py注释面向 TensorRT 部署时以 TensorRT 导入结果为准校准方法选择max最保守entropyKL与mse通常能更好权衡离群点percentile适合存在明显长尾的场景可通过classification_flow.py的--sensitivity逐层定位敏感层版本演进工具包已进入维护冻结状态新项目建议关注 TensorRT Model Optimizer以获取持续更新的量化与压缩能力。至此从安装、核心概念、PTQ 校准、QAT 微调到 ONNX 导出并被 TensorRT 8.0 导入的完整链路均已覆盖仓库内的源码与测试为每一步提供了可复现的实现依据读者可在此基础上针对自身模型开展量化实践。【免费下载链接】TensorRTNVIDIA® TensorRT™ is an SDK for high-performance deep learning inference on NVIDIA GPUs. This repository contains the open source components of TensorRT.项目地址: https://gitcode.com/GitHub_Trending/tens/TensorRT创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考