Vec2Summ:基于概率句子嵌入的文本摘要
计算与语言
2025-08-12 v1
摘要
我们提出Vec2Summ,这是一种新的抽象摘要方法,将任务定义为语义压缩。Vec2Summ将文档集合表示为语义嵌入空间中的单个均值向量,捕捉语料库的中心含义。为了重建流畅的摘要,我们进行嵌入逆转换——使用生成式语言模型将该均值向量解码为自然语言。为提高重建质量并捕捉一定程度的主题变异性,我们通过在均值中心的高斯分布中进行采样来引入随机性。这种方法类似于集成学习中的装袋技术,其中受控的随机性鼓励更稳健和多样化的输出。Vec2Summ解决了LLM-based摘要方法的关键局限性。它避免了上下文长度限制,使生成过程具有可解释性和可控性,能够高效地随语料库规模扩展——仅需参数。实验结果表明,Vec2Summ为主题聚焦、顺序不变的语料库产生连贯的摘要,尽管细节层面的表现不如直接LLM摘要丰富,但在主题覆盖和效率方面表现相当。这些结果凸显了Vec2Summ在可扩展性、语义控制和语料库级抽象优先考虑的场景中的潜力。
引用
@article{arxiv.2508.07017,
title = {Vec2Summ: Text Summarization via Probabilistic Sentence Embeddings},
author = {Mao Li and Fred Conrad and Johann Gagnon-Bartsch},
journal= {arXiv preprint arXiv:2508.07017},
year = {2025}
}