基于匹配的术语语义预训练用于口语患者查询理解
计算与语言
2023-03-03 v1
摘要
医疗槽填充（MSF）任务旨在将医疗查询转换为结构化信息，在诊断对话系统中起着至关重要的作用。然而，由于缺乏充分的术语语义学习，现有方法难以捕捉医疗对话中术语在语义上相同但口语化的表达。在本工作中，我们将 MSF 形式化为一个匹配问题，并提出术语语义预训练匹配网络（TSPMN），该网络将术语和查询同时作为输入来建模其语义交互。为了更好地学习术语语义，我们进一步设计了两个自监督目标，包括对比术语判别（CTD）和基于匹配的掩码术语建模（MMTM）。CTD 判断给定术语是否为对话中被掩码的术语，而 MMTM 直接预测被掩码的术语。在两个中文基准上的实验结果表明，TSPMN 优于强基线，尤其在少样本设定下。
引用
@article{arxiv.2303.01341,
title = {Matching-based Term Semantics Pre-training for Spoken Patient Query Understanding},
author = {Zefa Hu and Xiuyi Chen and Haoran Wu and Minglun Han and Ziyi Ni and Jing Shi and Shuang Xu and Bo Xu},
journal= {arXiv preprint arXiv:2303.01341},
year = {2023}
}
备注
ICASSP 2023