解耦表示：面向髋骨性别判定的可解释性研究
计算机视觉与模式识别
2023-01-06 v1
摘要
通过突出输入图像中对决策贡献最大的区域，显著图已成为使神经网络可解释的一种流行方法。在医学影像中，它们特别适合在异常定位的背景下解释神经网络。然而，根据我们的实验，对于不同类别之间可用于区分的特征在空间上相关、分散且显然非平凡的分类问题，它们不太适用。在本文中，我们因此提出一种用于更好可解释性的新范式。为此，我们向用户提供相关且易于解释的信息，使其可以形成自己的判断。我们使用解耦变分自编码器，其潜表示被划分为两部分：不可解释部分与解耦部分。后者对应于显式表示不同感兴趣类别的类别变量。除了提供给定输入样本的类别外，这种模型还提供了通过修改潜表示中的类别变量将样本从给定类别转换为另一类别样本的可能性。这为更容易地解释类别差异铺平了道路。我们在法医学中基于髋骨的自动性别判定背景下说明了该方法的相关性。模型所编码的、区分不同类别的特征被发现与专家知识一致。
引用
@article{arxiv.2112.09414,
title = {Disentangled representations: towards interpretation of sex determination from hip bone},
author = {Kaifeng Zou and Sylvain Faisan and Fabrice Heitz and Marie Epain and Pierre Croisille and Laurent Fanton and Sébastien Valette},
journal= {arXiv preprint arXiv:2112.09414},
year = {2023}
}