MedSAE：稀疏自编码器解码 MedCLIP 表示
人工智能
2026-05-25 v2
摘要
人工智能医疗领域需要模型具备准确性和可解释性。我们通过将医疗稀疏自编码器（MedSAEs）应用于 MedCLIP 潜在空间来推进医疗视觉领域的机制可解释性。为量化可解释性，我们提出了一种评估框架，结合相关性指标、熵分析以及通过 MedGemma 基础模型实现的自动神经元命名。在 CheXpert 数据集上的实验表明，MedSAE 神经元在单语义性和可解释性方面优于原始 MedCLIP 特征。我们的发现搭建了高性能医学 AI 与透明度之间的桥梁，为通向临床可靠表示提供了可扩展的步骤。本研究支持性代码已发布于 https://github.com/EIDOSLAB/MedSAE。
引用
@article{arxiv.2510.26411,
title = {MedSAE: Dissecting MedCLIP Representations with Sparse Autoencoders},
author = {Riccardo Renzulli and Colas Lepoutre and Enrico Cassano and Marco Grangetto},
journal= {arXiv preprint arXiv:2510.26411},
year = {2026}
}
备注
Accepted at ICIP 2026