#低秩适配

LoRA（Low-Rank Adaptation）

一句话理解 LoRA 在预训练权重矩阵旁边插入低秩分解矩阵（A × B），微调时只训练这两个小矩阵，原始权重完全冻结。训练完成后，小矩阵可以合并回原权重，推理时零额外开销。 零基础理解 原始模