索引 / 标签
#RAG
共 6 篇
- Ch11 模型微调
RAFT(深挖)
RAFT(Retrieval Augmented Fine-Tuning,检索增强微调)是 2024 年提出的微调策略:在微调阶段就把检索文档混入训练数据,让模型学会"查阅资料再回答",而不是像传统 RAG 那样只在推理时做检索。RAFT 训练出的模型在推理时配合检索,效果优于纯
约 3 分钟1,031 字 - Ch12 Prompt工程
Context 工程
一句话理解 Context 工程的核心是"让模型看见什么"——不是改模型,而是管理模型的输入。在模型能力固定的前提下,Context 工程决定了模型能获取多少有效信息,从而直接影响输出质量。2
约 5 分钟1,454 字 - Ch13 RAG
对比-AgenticRAGvsGraphRAG
Agentic RAG 和 Graph RAG 是 RAG 进化树上的两个高级分支。Agentic RAG 让模型动态决定检索策略,Graph RAG 利用知识图谱的结构化推理能力增强检索。
约 2 分钟545 字 - Ch13 RAG
对比-RAGvs微调
概述 RAG(Retrieval-Augmented Generation)和 Fine-tuning 是让 LLM 掌握特定领域知识的两种正交手段。RAG 给模型"查资料",微调是"改模型参
约 2 分钟543 字 - Ch13 RAG
对比-稠密检索vs稀疏检索
稠密检索(Dense Retrieval)和稀疏检索(Sparse Retrieval)是信息检索的两大范式。稠密检索基于语义向量相似度,稀疏检索基于关键词匹配,2026 年的标配是两者混合。
约 2 分钟548 字 - Ch13 RAG
BM25 (Best Match 25)
一句话理解 信息检索的经典算法,TF-IDF的升级版,2026年仍是混合检索(RAG)的关键组件——用概率模型评估文档与查询的相关性,引入词频饱和和文档长度归一化。 核心公式与直觉 BM25公
约 3 分钟1,002 字