BatchNorm LayerNorm 深度学习 训练稳定性 归一化技术AI批量归一化:这次怎么落地的AI批量归一化:这次怎么落地的一旦进项目,好看的架构图就没那么管用了。 醉月思📁 技术实践📅 2021-05-06
深度学习 学习率调度 PyTorch 模型训练 优化策略AI学习率调度踩坑记录按教程设置0.001,开始训练,盯着loss曲线等它下降,然后隔几轮降低学习率。 醉月思📁 技术实践📅 2021-03-15