索引 / 标签
#上下文窗口
共 3 篇
- Ch09 Transformer
上下文窗口（深挖）
上下文窗口（Context Window）是模型在一次推理中能"看到"的最大 token 数量。从 GPT-1 的 512 tokens 到 2026 年 Gemini 3.5 Pro 的 2M tokens，上下文窗口的爆炸式增长正在重塑 AI 应用的设计范式——从"如何压缩信
约 5 分钟1,469 字 - Ch12 Prompt工程
Context 工程
一句话理解 Context 工程的核心是"让模型看见什么"——不是改模型，而是管理模型的输入。在模型能力固定的前提下，Context 工程决定了模型能获取多少有效信息，从而直接影响输出质量。2
约 5 分钟1,454 字 - Ch13 RAG
上下文压缩 (Context Compression)
概述 上下文压缩（Context Compression）是解决 LLM 上下文窗口限制和推理成本问题的关键技术。当需要处理大量文档、长对话历史或长代码文件时，直接输入全部内容可能超出模型的上
约 4 分钟1,364 字