162、TinyML模型训练最佳实践：云端训练与边缘部署
162、TinyML模型训练最佳实践：云端训练与边缘部署去年做的一个智能门磁项目，模型在Colab上跑得风生水起，准确率97%，量化后扔到STM32上，直接崩了——推理结果全是0。查了三天，最后发现是训练时用的Batch Normalization层在量化后行为异常。这种“云端跑得欢，边缘就翻车”的坑，我踩了不下十次。今天这篇笔记，就把这些血泪教训整理出来。训练环境：别在云端“裸奔”很多人习惯直接在Colab或Jupyter里写训练脚本，跑完就下载模型。这种做法在TinyML领域是灾难。云端训练环境默认是float32精度，而边缘设备往往是int8甚至更低精度。训练时如果不刻意模拟边缘的数值范围，模型参数分布会完全偏离部署时的实际表现。我的做法是：在训练脚本开头就固定随机种子，并且显式设置一个“目标精度”参数。比如你要部署到Cortex-M4上，训练时就开启混合精度训练，让模型适应低精度下的梯度流动。Keras的mixed_precision.set_global_policy('mixed_float16')是个好起点，但别直接照搬——很多TinyML框架对float16支持不好，更稳妥的做法是用tf.quantization.quantize_and_dequantize在训练过程中插入伪量化节点。# 这里踩过坑：直接设mixed_float16会导致某些算子不兼容
)
