权重空间相关性分析：量化深度学习模型中的特征利用
计算机视觉与模式识别
2026-02-05 v2 机器学习
图像与视频处理
摘要
医学成像中的深度学习模型容易受到捷径学习的影响，依赖于混淆元数据（如扫描仪型号），这些信息通常编码在图像嵌入中。关键问题是模型是否主动利用这些编码信息进行最终预测。我们引入权重空间相关性分析（Weight Space Correlation Analysis），一种可解释的方法，通过测量主要临床任务和辅助元数据任务的分类头之间的对齐程度来量化特征利用。我们首先通过成功检测人为诱导的捷径学习来验证该方法。然后我们将其应用于探测用于自发性早产（sPTB）预测的SA-SonoNet模型的特征利用情况。我们的分析证实，虽然嵌入包含大量元数据，但sPTB分类器的权重向量与临床相关因素（如出生体重）高度相关，但与临床无关的采集因素（如扫描仪）无关。我们的方法提供了一种验证模型可信度的工具，证明在不存在诱导偏见的情况下，临床模型选择性地利用与真实临床信号相关的特征。
引用
@article{arxiv.2512.13144,
title = {Weight Space Correlation Analysis: Quantifying Feature Utilization in Deep Learning Models},
author = {Chun Kit Wong and Paraskevas Pegios and Nina Weng and Emilie Pi Fogtmann Sejer and Martin Grønnebæk Tolsgaard and Anders Nymark Christensen and Aasa Feragen},
journal= {arXiv preprint arXiv:2512.13144},
year = {2026}
}
备注
26 pages