索引 / 标签

#progressive-loading

共 1 篇

  1. Ch20 推理部署

    概念-渐进式加载

    一句话理解 渐进式加载(Progressive Loading)是一种上下文管理策略,核心思想是分步注入上下文:先给模型摘要或索引,当模型需要更多细节时,再加载完整内容。它的设计动机很简单——

    约 4 分钟1,139 字