概念-上下文管理技术
一句话理解
上下文管理技术（Context Management Techniques）指的是在没有 Function Calling 的年代，如何让模型使用外部工具——把工具塞进上下文。这些技术诞生于 2023-2024 年，当时 LLM 还不支持原生的 Tool Use / Function Calling，开发者需要通过各种”hack”手段，让模型”感知”外部世界并与之交互。2026 年回看，这些技术虽然大部分已被 Function Calling 和 MCP 取代，但它们背后的核心思想——如何高效利用上下文窗口、如何组织信息让模型更好理解——至今仍在深刻影响着上下文工程（Context Engineering）的实践。
类比：在智能手机出现之前，人们用 PDA + MP3 + 数码相机 + 纸质地图来满足各种需求。智能手机（Function Calling）出现后，这些设备被整合为一个统一方案。但”拍照、听歌、导航”这些需求本身没有变，变的是实现方式。
四种核心上下文管理技术
1. 提示词注入（Prompt Injection as Technique）
核心思想：把工具的描述、可用数据、外部信息直接塞进 System Prompt 或 User Prompt 中，让模型”看到”这些信息后再做决策。
示例：在 Prompt 中注入搜索结果——
System: 你是一个问答助手。以下是搜索引擎返回的相关信息：
[搜索结果1] ...
[搜索结果2] ...
请基于以上信息回答用户问题。如果信息不足，请说明。
User: 什么是量子计算？2. 渐进式加载（Progressive Loading）
核心思想：分步注入上下文。先给模型一个摘要或索引，当模型需要更多细节时，再加载完整内容。这是一种”按需加载”的策略，用于在有限的上下文窗口中塞入尽可能多的有效信息。
3. Hook 机制（Hook Mechanism）
核心思想：在模型输出中设置”触发器”——当模型生成特定标记（如 [SEARCH:xxx]）时，外部系统拦截这个标记，执行对应的操作（如搜索），然后把结果注入回上下文。这相当于一种”伪 Function Calling”。
4. 上下文压缩（Context Compression）
核心思想：对长文本进行摘要或提炼，把关键信息压缩后放入上下文，以节省 Token。包括滑动窗口（Sliding Window）、摘要链（Summarization Chain）、分层压缩（Hierarchical Compression）等策略。
四种技术的对比
| 维度 | 提示词注入 | 渐进式加载 | Hook 机制 | 上下文压缩 |
|---|---|---|---|---|
| 核心思路 | 把外部数据塞进 Prompt | 分步注入，按需加载 | 输出标记触发外部操作 | 精简上下文，保留关键信息 |
| 触发方式 | 被动（调用前注入） | 被动（按规则加载） | 主动（模型输出触发） | 被动（调用前压缩） |
| 对模型的依赖 | 低（只需理解Prompt） | 低（只需理解内容） | 高（需要输出特定格式） | 低（只需理解摘要） |
| 上下文窗口利用率 | 低（可能浪费） | 高（按需使用） | 中（预留空间给Hook） | 高（精简后使用） |
| 2026年状态 | 仍在使用（RAG的基础） | 被长上下文窗口取代 | 被Function Calling取代 | 思想延续到上下文工程 |
| 主要局限 | 窗口有限，无法处理超大数据 | 需要设计加载策略 | 依赖模型配合，不稳定 | 可能丢失关键信息 |
2026 年：这些技术如何被取代
| 旧技术 | 取代方式 | 说明 |
|---|---|---|
| 提示词注入 | RAG + System Prompt | 不再手动拼接，而是用 RAG 框架自动检索+注入 |
| 渐进式加载 | 长上下文窗口（200K+ tokens） | 大部分场景不需要渐进加载，直接全量塞入 |
| Hook 机制 | Function Calling / Tool Use | 原生支持，更稳定、更可靠 |
| 上下文压缩 | 上下文工程（Context Engineering） | 从”压缩”思维升级为”组织”思维 |
为什么这些技术仍然值得学习
虽然原始的技术实现已经过时，但它们背后的设计思想仍然重要：
- 信息的层次结构：渐进式加载的”先摘要后全文”思想，影响了 RAG 中的”先检索后生成”模式
- 上下文的有限性意识：即使在 200K 窗口中，信息密度仍然重要——塞满垃圾信息不会得到好结果
- 工具与模型的边界：Hook 机制让人们开始思考”模型应该做什么、系统应该做什么”，这直接催生了 Tool Use 的设计
- 上下文工程的源头：2025-2026 年的上下文工程（Context Engineering），其思想源头可以追溯到这些早期技术
相关笔记
- 上下文工程 — 上下文工程的现代实践
- 提示词的局限 — 提示词的边界和局限
- 概念-提示词注入 — 提示词注入技术详解
- 概念-渐进式加载 — 渐进式加载技术详解
- 概念-Hook机制 — Hook 机制详解
- 上下文压缩（深挖） — 上下文压缩技术深挖
- 概念-FunctionCalling — 现代 Function Calling 机制
来源
- https://www.anthropic.com/engineering/building-effective-agents — Anthropic 关于上下文使用的讨论
- https://arxiv.org/abs/2310.04451 — “Lost in the Middle” 论文：长上下文中的信息位置效应
- https://docs.anthropic.com/en/docs/build-with-claude/context-windows — Anthropic 上下文窗口文档
- https://smith.langchain.com/ — LangSmith 上下文管理最佳实践
- https://arxiv.org/abs/2312.10997 — RAPTOR: Recursive Abstractive Processing for Tree-Organized Retrieval