Ch11 模型微调修订于 二〇二六年七月二日
11.14 什么时候微调 vs 什么时候用 RAG vs 什么时候用 Prompt
很多问题不需要微调，用更简单的方案就能解决。下面是决策对照表：
| 维度 | 微调 | RAG（检索增强生成） | Prompt 工程 |
|---|---|---|---|
| 原理 | 改变模型参数，让模型”学会”新知识 | 不改变模型，从外部知识库检索相关内容塞进提示词 | 不改变模型，优化提示词的写法 |
| 适合场景 | 改变输出风格/格式、注入领域知识、让模型学会特定推理模式 | 需要实时查询最新信息、知识库频繁更新、引用溯源 | 简单格式约束、角色扮演、一次性任务 |
| 知识更新 | 需要重新训练，慢 | 更新知识库即可，即时生效 | 不需要更新 |
| 成本 | 训练成本 + GPU 费用 | 知识库维护 + 检索 API 费用 | 零成本 |
| 延迟 | 训练后推理速度不变 | 检索步骤增加 0.5-2 秒 | 不影响延迟 |
| 效果天花板 | 高，模型深度内化知识 | 中高，但受检索质量和上下文窗口限制 | 低，无法改变模型内在能力 |
| 维护复杂度 | 需要管理训练数据、版本、评估 | 需要维护知识库、检索策略 | 几乎不需要维护 |
| 典型用例 | 客服机器人用公司语气回复 | 法律 AI 实时查询最新法规 | 让 AI 用 JSON 格式输出 |
决策口诀：
- 风格/格式问题 -> Prompt 工程（先试试提示词能不能解决）
- 知识/事实问题 -> RAG（先试试检索能不能解决）
- 能力/模式问题 -> 微调（前面两个都解决不了再微调）
上一节：11.9 微调实操流程 | 下一节：章首
关联5
知识图谱局部图谱 · 点节点跳转