基于提示学习的 Stack Overflow 自动双模态问题标题生成

在撰写 Stack Overflow 问题帖子时，开发者可能无法在问题标题中准确总结核心问题，导致这些问题无法获得及时的帮助。因此，提高问题标题的质量引起了研究人员的广泛关注。一项初步研究旨在仅通过分析问题主体中的代码片段来自动生成标题。然而，该研究忽略了相应问题描述中的有用信息。为此，我们提出了一种名为 SOTitle+ 的方法，通过考虑问题主体中的双模态信息（即代码片段和问题描述）来解决这一问题。随后，我们将不同编程语言的标题生成形式化为独立但相关的任务，并利用多任务学习来解决这些任务。接着，我们微调预训练语言模型 CodeT5 以自动生成标题。不幸的是，预训练任务与我们研究的任务之间不一致的输入和优化目标可能使得微调难以充分挖掘预训练模型的知识。为解决这一问题，SOTitle+ 进一步利用混合提示（即硬提示和软提示的组合）对 CodeT5 进行提示微调（prompt-tune）。为验证 SOTitle+ 的有效性，我们从 Stack Overflow 共享的近期数据转储中构建了一个大规模高质量语料库。该语料库包含针对六种流行编程语言的 179,119 个高质量问题帖子。实验结果表明，SOTitle+ 在自动评估和人工评估中均显著优于四种最先进（SOTA）的基线方法。我们的工作表明，在 Stack Overflow 标题生成中考虑双模态信息和提示学习是一个有前景的探索方向。