索引 / 标签
#对齐
共 4 篇
- Ch10 LLM架构
概念-RLAIF
RLAIF（Reinforcement Learning from AI Feedback，基于AI反馈的强化学习）是指用AI模型替代人类提供偏好信号或反馈，训练另一个AI模型的策略。相较于RLHF（Reinforcement Learning from Human Feedba
约 4 分钟1,220 字 - Ch11 模型微调
对比-DPOvsRLHF
概述 DPO（Direct Preference Optimization）和 RLHF（Reinforcement Learning from Human Feedback）都是将人类偏好注
约 2 分钟552 字 - Ch11 模型微调
对比-SFTvsRLHF
概述 SFT（Supervised Fine-Tuning）和 RLHF（Reinforcement Learning from Human Feedback）是 LLM 训练管线中两个关键阶
约 1 分钟468 字 - Ch11 模型微调