#权重分解

DoRA（Weight-Decomposed Low-Rank Adaptation）

一句话理解 DoRA 是 LoRA 的改进版，核心创新是将预训练权重分解为幅度（Magnitude）和方向（Direction）两部分，然后对方向部分应用 LoRA，对幅度部分单独调整，使微调