通过幅度约束优化解锁更深网络的特征可视化
计算机视觉与模式识别
2024-12-11 v3 人工智能
摘要
特征可视化已获得广泛关注，尤其在 Olah 等人 2017 年的开创性工作之后，该工作将其确立为可解释性的关键工具。然而，由于其依赖技巧来生成可解释图像，以及相应地在扩展到更深神经网络时所面临的挑战，其广泛采用受到限制。在此，我们描述 MACO，一种解决这些缺陷的简单方法。主要思想是通过优化相位谱同时保持幅度恒定来生成图像，以确保生成的解释位于自然图像的空间内。我们的方法产生了显著更好的结果（定性和定量上），并为大型最先进神经网络解锁了高效且可解释的特征可视化。我们还展示了我们的方法展现出一种归因机制，允许我们用空间重要性增强特征可视化。我们在一个用于比较特征可视化方法的新基准上验证了我们的方法，并在 https://serre-lab.github.io/Lens/ 上发布了其对 ImageNet 数据集所有类别的可视化。总体而言，我们的方法首次在不借助任何参数化先验图像模型的情况下，为大型最先进深度神经网络解锁了特征可视化。
引用
@article{arxiv.2306.06805,
title = {Unlocking Feature Visualization for Deeper Networks with MAgnitude Constrained Optimization},
author = {Thomas Fel and Thibaut Boissin and Victor Boutin and Agustin Picard and Paul Novello and Julien Colin and Drew Linsley and Tom Rousseau and Rémi Cadène and Lore Goetschalckx and Laurent Gardes and Thomas Serre},
journal= {arXiv preprint arXiv:2306.06805},
year = {2024}
}