利用潜在扩散模型生成反事实轨迹以进行概念发现

可信赖性是深度学习不透明模型在医学等高风险领域安全应用的主要前提。理解决策过程不仅有助于建立信任，还可能揭示复杂模型此前未知的决策标准，从而推动医学研究的发展。从黑盒模型中发现与决策相关的概念是一项极具挑战性的任务。本研究提出了基于潜在扩散的反事实轨迹概念发现（CDCT），这是一个新颖的三步框架，利用扩散模型卓越的图像合成能力进行概念发现。第一步，CDCT 使用潜在扩散模型（LDM）生成反事实轨迹数据集。该数据集用于通过变分自编码器（VAE）推导出分类相关概念的解耦表示。最后，应用搜索算法在解耦的潜在空间中识别相关概念。将 CDCT 应用于在最大的公开皮肤病变数据集上训练的分类器，不仅揭示了若干偏差的存在，还发现了有意义的生物标志物。此外，CDCT 内生成的反事实样本展现出比先前最先进方法更好的 FID 分数，同时资源效率提高了 12 倍。无监督概念发现在各个领域对可信人工智能的应用和人类知识的进一步发展具有巨大潜力。CDCT 代表了朝此方向迈出的又一步。