DYCP：用于长篇对话的动态上下文剪枝
计算与语言
2026-04-10 v4 人工智能
摘要
大型语言模型（LLM）正在越来越多地用于处理具有频繁主题变更的长篇对话。虽然最近的LLM支持扩展的上下文窗口，但由于推理成本和延迟限制，在实际中有效管理对话历史仍然是必要的。我们提出了DyCP，这是一种在LLM之外实现的轻量级上下文管理方法，动态识别并检索当前轮次条件下相关的对话片段，而无需离线构建记忆。DyCP在保持对话顺序性方面实现了上下文管理，无需预定义主题边界，使上下文选择能够自适应且高效。 在三个长篇对话基准测试——LoCoMo、MT-Bench+和SCM4LLMs——以及多个LLM后端上，DyCP在下游生成中实现了具竞争力的答案质量，同时实现了更具选择性的上下文使用和改进的推理效率。
引用
@article{arxiv.2601.07994,
title = {DYCP: Dynamic Context Pruning for Long-Form Dialogue with LLMs},
author = {Nayoung Choi and Jonathan Zhang and Jinho D. Choi},
journal= {arXiv preprint arXiv:2601.07994},
year = {2026}
}
备注
Accepted (B) to TACL 2026