解锁 LLM 的上下文约束：基于自信息的内容过滤提升大语言模型上下文效率
计算与语言
2023-04-25 v1
摘要
大语言模型（LLMs）因在各种任务上取得卓越性能而受到显著关注。然而，其固定的上下文长度在处理长文档或维持延长对话时带来挑战。本文提出一种称为 \textit{Selective Context} 的方法，利用自信息过滤掉信息量较少的内容，从而提升固定上下文长度的效率。我们在不同数据源的摘要与问答任务上展示了方法的有效性，包括学术论文、新闻文章与对话转录。
引用
@article{arxiv.2304.12102,
title = {Unlocking Context Constraints of LLMs: Enhancing Context Efficiency of LLMs with Self-Information-Based Content Filtering},
author = {Yucheng Li},
journal= {arXiv preprint arXiv:2304.12102},
year = {2023}
}