索引 / 标签
#LLM优化
共 1 篇
- Ch13 RAG
上下文压缩 (Context Compression)
概述 上下文压缩(Context Compression)是解决 LLM 上下文窗口限制和推理成本问题的关键技术。当需要处理大量文档、长对话历史或长代码文件时,直接输入全部内容可能超出模型的上
约 4 分钟1,364 字
索引 / 标签
共 1 篇
概述 上下文压缩(Context Compression)是解决 LLM 上下文窗口限制和推理成本问题的关键技术。当需要处理大量文档、长对话历史或长代码文件时,直接输入全部内容可能超出模型的上
常用