面向教育性摘要的主题控制:上下文组合的可扩展方法
计算与语言
2026-04-21 v1 人工智能
计算机与社会
摘要
主题控制摘要允许用户生成聚焦于源文档特定方面的摘要。本文研究了一种用于训练小型语言模型(sLMs)执行主题控制摘要的数据增强策略。我们提出了一种两两数据增强方法,将来自不同文档的上下文组合,以创建对比训练示例,使模型能够更有效地学习主题与摘要之间的关系。使用以威克百科科普条目丰富的SciTLDR数据集,我们系统评估了增强规模对模型性能的影响。结果表明,随着增强规模的增加,win rate和语义对齐度均得到持续改善,而真实训练数据的数量保持不变。因此,使用我们的方法训练的T5-base模型在参数数量和真实训练示例数量显著少于大型模型时,仍能实现有竞争力的性能。
引用
@article{arxiv.2604.18087,
title = {Mix and Match: Context Pairing for Scalable Topic-Controlled Educational Summarisation},
author = {Nathikan Yodthapa and Thanapong Intharah and Sahan Bulathwela},
journal= {arXiv preprint arXiv:2604.18087},
year = {2026}
}
备注
To be published at the International Conference on Artificial Intelligence in Education (AIED'26)