LAVA：面向无监督潜在嵌入的可解释性

无监督黑箱模型是科学发现的驱动力，但难以解释，因为其输出通常是多维嵌入而非明确定义的目标。虽然监督学习的可解释性揭示了输入特征对预测的贡献，但其无监督对应方面应将输入特征与所学习嵌入的结构关联起来。然而，针对无监督学习的监督模型可解释性方法要么提供单样本解释，要么提供数据概要解释，既过于细节化又过于简化，难以具有意义，且无法解释无映射函数的嵌入。为填补这一差距，我们提出了 LAVA，这是一种后置的模型无关方法，用于通过原始输入数据中特征协变量解释局部嵌入组织。LAVA 解释由模块组成，捕获输入特征相关性的局部子模式，这些子模式在整个嵌入中全局重复出现。LAVA 在所需粒度水平上提供稳定的解释，揭示了如图像视觉部件或细胞过程中的疾病信号等领域相关模式，这些模式被现有方法所忽略。