诊断 Transformer：照亮临床决策中的特征空间
计算与语言
2024-02-28 v3 人工智能
机器学习
摘要
预训练的 transformer 常通过微调来利用有限的临床记录辅助临床决策。模型可解释性至关重要，尤其在医学等高风险领域，以建立信任并确保安全，而这需要人的参与。我们提出 SUFO，一个增强微调 transformer 特征空间可解释性的系统框架。SUFO 利用一系列分析与可视化技术，包括有监督探测、无监督相似性分析、特征动态分析和离群点分析，以解决关于模型信任与可解释性的关键问题。我们开展了一项研究预训练数据影响的案例研究，聚焦于真实世界的病理分类任务，并在 MedNLI 上验证我们的发现。我们评估了五个 1.1 亿参数的预训练 transformer 模型，分为通用域（BERT、TNLR）、混合域（BioBERT、Clinical BioBERT）和领域专用（PubMedBERT）组。我们的 SUFO 分析揭示：(1) 尽管领域专用模型 PubMedBERT 包含用于微调的有价值信息，但在类别不平衡时可能过拟合少数类；相比之下，混合域模型对过拟合表现出更强抵抗力，提示领域专用模型鲁棒性存在潜在改进空间；(2) 域内预训练在微调过程中加速特征消歧；(3) 在此过程中特征空间经历显著稀疏化，使临床医生能够识别微调模型中常见的离群模式，如本文所示。这些发现展示了 SUFO 在医学中使用 transformer 时增强信任与安全的效用，我们相信 SUFO 可帮助从业者评估用于医学其他应用及更关键领域的微调语言模型。
引用
@article{arxiv.2305.17588,
title = {Diagnosing Transformers: Illuminating Feature Spaces for Clinical Decision-Making},
author = {Aliyah R. Hsu and Yeshwanth Cherapanamjeri and Briton Park and Tristan Naumann and Anobel Y. Odisho and Bin Yu},
journal= {arXiv preprint arXiv:2305.17588},
year = {2024}
}