AI 应用层知识图谱

这不是词典。这是地图。每个节点是一个概念，每条线是一层进化。在 Obsidian Graph View 里看最清楚。

核心演化轴

四条主线，贯穿全部应用层知识：

1. AI 工程范式演化：Prompt -> Context -> Harness -> Loop
2. 第13章 · RAG 进化树：稀疏检索 -> 稠密检索 -> 混合检索 -> Agentic RAG -> Graph RAG
3. 对话到 Agent 演化：纯对话 -> Function Calling -> Tool Use -> ReAct Agent -> Multi-Agent -> MCP/A2A
4. 模型训练管线：预训练 -> SFT -> RLHF -> DPO -> GRPO -> 模型合并

graph LR
    A[AI 应用] --> B[AI 工程范式演化]
    A --> C[RAG 进化树]
    A --> D[对话到 Agent 演化]
    A --> E[模型训练管线]

轴一：AI 工程范式演化

四次范式跃迁，不是替代而是层叠。详见。

相关：提示词纪律、漏斗架构、Agent 原理与 ReAct

轴二：第13章 · RAG 进化树

从最简单的关键词匹配到 Agent 自主决策检索策略。

graph LR
    A[稀疏检索<br/>BM25/TF-IDF] --> B[稠密检索<br/>Embedding]
    B --> C[混合检索<br/>Dense+BM25]
    C --> D[Agentic RAG<br/>Agent 决定策略]
    D --> E[Graph RAG<br/>知识图谱+RAG]

逐级详解

稀疏检索（深挖）：BM25、TF-IDF。只看词频，不懂语义。“苹果手机”和”iPhone”算两个东西。来源：传统信息检索。

稠密检索（深挖）：Embedding 向量相似度。“苹果手机”和”iPhone”在向量空间很近。需要 概念-Embedding模型 + 深挖-向量数据库（Milvus/Pinecone/Qdrant/pgvector）。来源：BERT 之后的文本表示革命。

混合检索（深挖）：稠密 + 稀疏双路 + 深挖-重排序。显著降低检索失败率，2026 年生产环境标配。来源：StackAI RAG 最佳实践、Firecrawl 2026 混合检索指南。

自主检索 RAG（深挖）：Agent 自主决定：搜几次？用什么策略？是否需要改写查询？是否需要验证结果？检索不再是固定管线，而是动态决策。来源：LangChain/LlamaIndex 2025-2026 演进。

图谱检索 RAG（深挖）：知识图谱 + RAG。先建实体-关系图，检索时利用图结构推理。“A 的老板的老板是谁”这种多跳问题，传统 RAG 答不好。来源：Microsoft Graph RAG 2024, Neo4j 集成。

横向组件

• 分块策略（深挖）：Recursive -> Semantic -> Late Chunking -> Agentic Chunking

来源

• 综合 Coursera、roadmap.sh、Towards Data Science、Medium 五份路线图交叉对比
• 各技术条目引用的原始论文见各章来源节
• 概念-Embedding模型：text-embedding-3 / bge-large / Jina v3 / Cohere v3
• 深挖-向量数据库选型：Milvus vs Pinecone vs Qdrant vs pgvector
• 深挖-重排序：Cohere Rerank / bge-reranker / Cross-Encoder / ColBERT
• RAG 系统评估（深挖）：RAGAS / TruLens / DeepEval

检索基础设施演化（0 -> 1）

向量检索不是一夜之间冒出来的。这条线从零开始。

graph LR
    A[Elasticsearch<br/>全文检索引擎<br/>Lucene/BM25, 2010] --> B[FAISS<br/>稠密向量相似度库<br/>Meta, 2017.03]
    B --> C[ES 支持向量<br/>dense_vector + kNN<br/>ES 7.x/8.x]
    B --> D[专用向量数据库<br/>Milvus/Pinecone/Qdrant<br/>2020+]
    C --> E[pgvector<br/>PostgreSQL 原生向量<br/>2021+]
    D --> E

深挖-Elasticsearch：2010 年诞生，基于 Apache Lucene 的分布式全文检索引擎。核心能力是倒排索引 + BM25 关键词搜索。在 AI 时代之前，它就是搜索的代名词。2019 年（7.x）引入 dense_vector 字段类型，2022 年（8.x）支持原生 kNN 向量搜索。不是”专用向量数据库”，但至今仍是生产环境最常见的混合检索引擎 ¹; ²。

深挖-FAISS（Facebook AI Similarity Search）：Meta 2017 年 3 月开源。不是数据库——是 C++ 库，提供高效的稠密向量近似最近邻（ANN）搜索算法。支持 GPU 加速，可处理十亿级向量。关键贡献：把向量相似度搜索从实验级推到了工业级。Milvus、Weaviate 等专用向量数据库的底层引擎都借鉴或直接使用了 FAISS ³; ⁴。

专用向量数据库（2020+）：在 FAISS 的基础上加了数据库能力——CRUD、分布式、权限、过滤。Milvus（2019 开源）、Pinecone（2021 商用）、Qdrant（2021）、Weaviate（2019）。它们和 FAISS 的关系就像 PostgreSQL 和 B-tree：一个提供底层引擎，一个提供完整数据库 ⁵。

深挖-pgvector（2021+）：PostgreSQL 扩展，让传统关系型数据库支持向量存储和 ANN 搜索。2026 年趋势：与其单独维护一个向量数据库，不如在已有的 PostgreSQL 上加 pgvector。适合不想引入新基础设施的团队。

ES vs FAISS vs 专用向量 DB 选型：

2026 年生产环境常态：ES 做混合检索（BM25 + kNN），FAISS 做离线批量向量索引，专用向量 DB 做高并发在线 ANN。

轴三：对话到 Agent 演化

从一问一答到自主多步执行。注意：此轴按概念/架构演化排列，非严格时间线。ReAct 论文 (2022.10) 实际上先于 Function Calling API (2023.06)。

graph LR
    A[纯对话<br/>GPT-3, 2020] --> B[ReAct 范式<br/>Yao et al., 2022.10]
    B --> C[Function Calling / Tool Use<br/>OpenAI 2023.06]
    C --> D[Multi-Agent<br/>CrewAI/AutoGen]
    D --> E[MCP 2024.11 + A2A 2025.04]

逐级详解

概念-纯对话：用户问，模型答。无外部能力。GPT-3 时代。上下文就是全部。

概念-ReActAgent：Reasoning + Acting 交替循环。Think -> Act -> Observe -> Think -> … 直到任务完成。核心突破：模型有了”中间思考”步骤，能根据上一步结果调整策略。论文：Yao et al., “ReAct: Synergizing Reasoning and Acting in Language Models”, arXiv 2022.10 ⁶。

概念-FunctionCalling / 概念-ToolUse：OpenAI 2023 年 6 月推出 Function Calling，Anthropic 推出 Tool Use。两者本质相同——JSON Schema 定义工具，模型返回结构化调用请求。名称不同但机制一致 ⁷; ⁸。

概念-MultiAgent：多个 Agent 角色分工。深挖 CrewAI（角色扮演）、深挖 AutoGen（对话式协作）、深挖 LangGraph（图编排）。每个 Agent 专注一件事，通过通信协调。

MCP+A2A 双协议生态：互操作标准。概念-MCP（Anthropic, 2024.11）= Agent 连工具的标准接口 ⁹。概念-A2A（Google, 2025.04）= Agent 之间通信的标准协议 ¹⁰。2026 年双协议形成互补生态。

关键区别：Agent vs 普通 API 调用

轴四：模型训练管线

graph LR
    A[预训练<br/>海量无标注文本] --> B[SFT<br/>指令-回答对]
    B --> C[RLHF<br/>奖励模型+PPO]
    C --> D[DPO<br/>无需奖励模型]
    D --> E[GRPO<br/>分组对比]

分支：微调方法谱系

• 全量微调（Full Fine-Tuning） -> 参数高效微调（PEFT） -> LoRA（Low-Rank Adaptation） -> QLoRA（Quantized LoRA） -> DoRA（Weight-Decomposed Low-Rank Adaptation）
• Prompt Tuning（软提示微调）（软提示）vs Prefix Tuning（前缀微调） vs Adapter Tuning（适配器微调）

训练后技术

• 深挖-模型合并 (Model Merging)：TIES / MergeKit，多适配器合而为一
• 深挖-量化：GGUF / AWQ / GPTQ，精度换速度
• 推测解码（深挖）：小模型预测，大模型验证，加速推理

旁支网络（穿插关系）

神经网络演化

graph LR
    A[感知机] --> B[MLP]
    B --> C[CNN 图像]
    B --> D[RNN/LSTM/GRU 序列]
    C --> E[Transformer 统一架构]
    D --> E
    C --> F[YOLO 检测]
    E --> G[ViT 视觉Transformer]
    D --> H[SSM/S4]
    H --> I[Mamba 线性复杂度]

说明：

• 深挖-ViT (Vision Transformer) 源自 Transformer，不是 CNN。将图像切为 patch 序列直接输入 Transformer（Dosovitskiy et al., ICLR 2021）
• 深挖-Mamba 源自状态空间模型 SSM/S4 谱系（Gu et al., 2021），不是 Transformer。常被定位为 Transformer 的替代方案，但技术上独立演化（Gu & Dao, 2023）
• 深挖-YOLO (You Only Look Once) 是 CNN 检测器，属 CNN 谱系

KNN（K 近邻） 不在这条线——它是懒惰学习，不是神经网络。和 深挖-SVM、深挖-决策树 同属经典 ML 时代。

LangChain、LangGraph 和 LangSmith（深挖）

• 深挖 LangChain：链式编排，Prompt + LLM + Tool 串成 Chain。适合线性流程
• 深挖 LangGraph：图编排 + 状态管理，支持循环、条件分支、人工审核。生产级 Agent 首选
• 深挖 LangSmith：调试/评估/监控，Agent 的可观测层

工作流模式（深挖）

概念-上下文管理技术（Function Calling 出现之前）

在没有 Function Calling 的年代，如何让模型用外部工具？

1. 概念-提示词注入：把工具描述 + 可用数据直接塞进 Prompt。“你可以用搜索引擎，结果如下：…”
2. 概念-渐进式加载：分步注入上下文。先给摘要，需要时再给全文。本 vault 的漏斗模型前身
3. 概念-Hook机制：模型输出特定标记时触发外部函数。[SEARCH: xxx] -> 执行搜索 -> 结果插回上下文
4. 上下文压缩（深挖）：对话历史太长时，摘要压缩后继续。LangChain ConversationSummaryMemory

后来 概念-FunctionCalling 把这些变成了 API 原语，不再需要 hack。

Function Calling 演化

1. 无 FC 时代：提示词注入 / Hook
2. OpenAI Function Calling：JSON Schema 定义函数
3. Tool Use：标准化 + 并行调用 + 流式
4. MCP：跨模型、跨应用的统一工具协议

概念-图数据库与知识图谱

• 概念-Neo4j：图数据库，存实体-关系。图谱检索 RAG（深挖） 的基础设施
• AI 应用层知识图谱：实体 + 关系的结构化知识网络。和向量数据库互补——向量管相似，图谱管关系
• 概念-ObsidianGraphView：你正在看的这个 vault，wikilink 天然形成知识图谱

横向概念组（就近对比）

回到 笔记目录 · 名词