DUAL：基于多样性与不确定性的文本摘要主动学习方法
计算与语言
2025-03-04 v1
摘要
随着大型语言模型的兴起，神经网络文本摘要技术在近年来取得了显著进展。然而，即便是最先进的模型在训练和评估时仍严依赖于高质量的人工标注数据。当标注资源有限时，主动学习方法常被用于有效收集此类数据集。传统主动学习方法通常仅关注不确定性或多样性，但在文本摘要任务中效果有限，常被随机抽样所超越。我们提出了多样性与不确定性主动学习方法（DUAL），这是一种新型算法，综合了不确定性和多样性，迭代选择既能代表数据分布又对当前模型具有挑战性的样本。DUAL 解决了基于不确定性的方法中噪声样本选择问题，以及基于多样性的方法探索范围受限的问题。通过对不同摘要模型和基准数据集进行大量实验，我们展示了 DUAL 在性能上始终与或优于最佳策略。借助可视化和定量指标，我们提供了对不同主动学习策略有效性和鲁棒性的宝贵见解，以尝试理解为何这些策略在文本摘要中未能稳健地发挥作用。最后，我们表明 DUAL 在多样性和鲁棒性之间取得了良好平衡。
引用
@article{arxiv.2503.00867,
title = {DUAL: Diversity and Uncertainty Active Learning for Text Summarization},
author = {Petros Stylianos Giouroukis and Alexios Gidiotis and Grigorios Tsoumakas},
journal= {arXiv preprint arXiv:2503.00867},
year = {2025}
}