索引 / 标签
#指令微调
共 2 篇
- Ch11 模型微调
11.4 SFT：让模型学会"回答"而不是"续写"
想象你去图书馆读书。过去的三年，你每天从早到晚翻阅图书馆里所有的书——小说、论文、新闻、百科、代码、论坛帖子。你读完了相当于整个互联网的文字量。现在的你能续写任何一段文字的开头，能补全一首诗，能根据前文猜测接下来最可能出现的词。但有人突然问你："帮我写一封给客户的道歉邮件"，你愣
约 17 分钟5,449 字 - Ch11 模型微调
概念-SelfInstruct
Self-Instruct（自我指令）是一种通过AI模型自动生成训练数据的方法，由华盛顿大学和Allen AI在2022年底提出。其核心思想是：让AI模型自己生成指令-响应对，然后用这些合成数据训练自己或更小的模型。这一方法极大地降低了对人工标注数据的依赖，开启了合成数据驱动模型
约 5 分钟1,527 字