索引 / 标签

#LLM优化

共 1 篇

  1. Ch13 RAG

    上下文压缩 (Context Compression)

    概述 上下文压缩(Context Compression)是解决 LLM 上下文窗口限制和推理成本问题的关键技术。当需要处理大量文档、长对话历史或长代码文件时,直接输入全部内容可能超出模型的上

    约 4 分钟1,364 字