索引 / 标签
#SFT
共 4 篇
- Ch11 模型微调
11.4 SFT：让模型学会"回答"而不是"续写"
想象你去图书馆读书。过去的三年，你每天从早到晚翻阅图书馆里所有的书——小说、论文、新闻、百科、代码、论坛帖子。你读完了相当于整个互联网的文字量。现在的你能续写任何一段文字的开头，能补全一首诗，能根据前文猜测接下来最可能出现的词。但有人突然问你："帮我写一封给客户的道歉邮件"，你愣
约 17 分钟5,449 字 - Ch11 模型微调
模型训练管线
一句话理解 2026 年完整的模型训练管线包括：预训练 (Pre-training) → 监督微调 (SFT) → 偏好对齐 (DPO/RLHF) → 强化学习进阶 (GRPO) → 模型合并
约 5 分钟1,711 字 - Ch11 模型微调
全量微调（Full Fine-Tuning）
一句话理解 在预训练模型（Pre-trained Model）的基础上，用特定任务的数据集，更新模型的所有参数（全部权重），使模型从"通用能力"转向"特定领域能力"。这是最传统、最彻底的微调方
约 5 分钟1,540 字 - Ch11 模型微调
11.1 微调数据准备
微调数据，本质上就是"例题与标准答案的配对集合"。如果把预训练模型比作一个读了整个图书馆但从未参加过考试的学生，那么微调数据就是一套精心编写的模拟试卷——每一道"题目"（用户指令）后面都附有一份"标准答案"（期望回复）。学生做完这套卷子，就知道考试时该用什么格式、什么风格来答题了
约 22 分钟7,136 字