索引 / 标签
#模型训练
共 2 篇
- Ch11 模型微调
概念-SelfInstruct
Self-Instruct（自我指令）是一种通过AI模型自动生成训练数据的方法，由华盛顿大学和Allen AI在2022年底提出。其核心思想是：让AI模型自己生成指令-响应对，然后用这些合成数据训练自己或更小的模型。这一方法极大地降低了对人工标注数据的依赖，开启了合成数据驱动模型
约 5 分钟1,527 字 - Ch11 模型微调
模型训练管线
一句话理解 2026 年完整的模型训练管线包括：预训练 (Pre-training) → 监督微调 (SFT) → 偏好对齐 (DPO/RLHF) → 强化学习进阶 (GRPO) → 模型合并
约 5 分钟1,711 字