中文

基于离散小波变换的文档摘要 DWTSumm

计算与语言 2026-04-24 v1 机器学习

摘要

使用大型语言模型 (LLMs) 对长期、领域特定的文档进行摘要仍具有挑战性,由于上下文限制、信息丢失和幻觉,尤其是在临床和法律领域。我们提出了一个基于离散小波变换 (DWT) 的多分辨率框架,将文本视为语义信号,并将其分解为全局(近似)和局部(细节)成分。应用于句子或词级嵌入时,DWT 可产生保持整体结构和关键领域特定细节的紧凑表示,这些表示可直接用作摘要或用于指导 LLM 生成。在临床和法律基准测试上进行实验,结果显示 ROUGE-L 分数相当。相对于 GPT-4o 基线,DWT 基于摘要的方法在语义相似性和事实 grounding 上 consistently 获得改进, BERTScore 提升超过 2%,Semantic Fidelity 提升超过 4%,在法律任务中实现事实一致性,以及显著的 METEOR 改进表明保留了领域特定语义。在多个嵌入模型上,Fidelity 可达最高 97%,这表明 DWT 充当了语义去噪机制,减少了幻觉并加强了事实 grounding。总体而言,DWT 提供了一种轻量、可泛化的方法,用于可靠的长文档和领域特定摘要,适用于 LLMs。

关键词

引用

@article{arxiv.2604.21070,
  title  = {DWTSumm: Discrete Wavelet Transform for Document Summarization},
  author = {Rana Salama and Abdou Youssef and Mona Diab},
  journal= {arXiv preprint arXiv:2604.21070},
  year   = {2026}
}