一种可逆原型网络: This Probably Looks Exactly Like That
机器学习
2024-07-18 v1 人工智能
摘要
我们将基于概念的神经网络与生成式、流式分类器结合，构建一种新型的内在可解释、恰好可逆的监督学习方法。原型神经网络是一种基于概念的神经网络类型，旨在实现无需概念注释的人类可理解的机器学习，但当前方法仍存在人机语义鸿沟。我们发现，依赖于原型解释的间接解释函数会严重限制原型的信息传递能力。基于此，我们认为，通过在潜在空间上将原型学习为分布的方式，能够实现更稳健、更具表达力且更可解释的建模。我们提出了一种名为ProtoFlow的模型，通过将归一化流与高斯混合模型组合实现。ProtoFlow (1) 在联合生成式和预测建模方面取得了新的状态-of-the-art性能；(2) 在实现与现有原型神经网络相当的预测性能的同时，实现了更丰富的解释能力。
引用
@article{arxiv.2407.12200,
title = {This Probably Looks Exactly Like That: An Invertible Prototypical Network},
author = {Zachariah Carmichael and Timothy Redgrave and Daniel Gonzalez Cedre and Walter J. Scheirer},
journal= {arXiv preprint arXiv:2407.12200},
year = {2024}
}
备注
Accepted to ECCV'24. Code available at https://github.com/craymichael/ProtoFlow