基于知识引导扰动的鲁棒生物医学出版物类型与研究设计分类
计算与语言
2026-05-13 v1
摘要
准确且一致地按出版物类型和研究设计对生物医学文献进行标引，对于支持证据综合与知识发现至关重要。先前关于自动化出版物类型和研究设计标引的工作主要集中于扩展标签覆盖范围、丰富特征表示以及提升领域内准确率，其评估通常在训练数据同分布的数据上进行。尽管预训练的生物医学语言模型在这些设定下取得了优异性能，但针对领域内准确率优化的模型可能依赖于表面的词汇或数据集特定线索，导致在分布偏移下鲁棒性降低。在本研究中，我们引入了一个基于受控语义扰动的评估框架，以评估出版物类型分类器的鲁棒性，并研究了结合实体掩码和领域对抗训练的鲁棒性导向训练策略，以减轻对虚假主题相关性的依赖。我们的结果表明，当鲁棒性目标被设计为选择性抑制非任务定义特征同时保留显著的方法学信号时，可以缓解通常观察到的鲁棒性与领域内准确率之间的权衡。我们发现这些改进源于两个互补的机制：（1）当输入中存在明确的方法学线索时，增加对这些线索的依赖；（2）减少对虚假的领域特定主题特征的依赖。这些发现突显了针对出版物类型和研究设计分类进行特征级鲁棒性分析的重要性，并表明改进掩码和对抗目标以更有选择性地抑制主题信息可能进一步提高鲁棒性。数据、代码和模型可在以下地址获取：https://github.com/ScienceNLP-Lab/MultiTagger-v2/tree/main/ICHI
引用
@article{arxiv.2605.11502,
title = {Robust Biomedical Publication Type and Study Design Classification with Knowledge-Guided Perturbations},
author = {Shufan Ming and Joe D. Menke and Neil R. Smalheiser and Halil Kilicoglu},
journal= {arXiv preprint arXiv:2605.11502},
year = {2026}
}
备注
Accepted by IEEE ICHI 2026