索引 / 标签
共 1 篇
概念-上下文管理 提到对话太长时需要压缩。这篇深入两种压缩策略:提取式(保留关键句)和生成式(重写摘要)。以及它们各自的适用场景。 为什么不能直接截断 最简单的办法:对话太长?只保留最近 10 轮,前面的丢掉。 问题:用户在第 3 轮说"我是律师",第 15 轮说"帮我审这份合同
常用