#Adam

梯度下降 (Gradient Descent)

梯度下降是神经网络训练的"导航系统"——沿着损失函数梯度的反方向走，每一步都让模型离最优解更近一点。2026 年，AdamW 是这个导航系统的默认选择。