面向医疗问题摘要的聚焦驱动对比学习
计算与语言
2023-02-15 v3 人工智能
摘要
自动医疗问题摘要能显著帮助系统理解消费者健康问题并检索正确答案。基于最大似然估计（MLE）的 Seq2Seq 模型已应用于该任务，其面临两个普遍问题：模型不能很好地捕捉问题焦点，且传统 MLE 策略缺乏理解句子级语义的能力。为缓解这些问题，我们提出一种新颖的问题焦点驱动对比学习框架（QFCL）。具体而言，我们提出一种基于问题焦点的简单有效方法来生成难负样本，并在编码器和解码器上利用对比学习以获得更好的句子级表示。在三个医疗基准数据集上，我们提出的模型取得了新的最优（SOTA）结果，相比基线 BART 模型在三个数据集上分别获得 5.33、12.85 和 3.81 分的性能提升。进一步的人工评判与详细分析证明，我们的 QFCL 模型学习了更好的句子表示，具有区分不同句子含义的能力，并通过捕捉问题焦点生成高质量摘要。
引用
@article{arxiv.2209.00484,
title = {Focus-Driven Contrastive Learniang for Medical Question Summarization},
author = {Ming Zhang and Shuai Dou and Ziyang Wang and Yunfang Wu},
journal= {arXiv preprint arXiv:2209.00484},
year = {2023}
}
备注
Accepted by COLING 2022, long paper