PointMask：迈向可解释且抗偏置的点云处理
计算机视觉与模式识别
2020-07-10 v1 机器学习
摘要
深度分类器倾向于将少数具有区分性的输入变量与其目标函数相关联，这反过来可能会损害其泛化能力。为了解决这个问题，可以设计系统性实验和/或通过可解释性方法检查模型。在本文中，我们在处理点云的深度模型上研究了这两种策略。我们提出了 PointMask，一种与模型无关的、可解释的信息瓶颈方法，用于点云模型中的归因。PointMask 鼓励探索输入空间中的大多数变异因子，同时逐渐收敛到一个通用解。更具体地说，PointMask 引入了一个正则化项，用于最小化输入与用于屏蔽无关变量的潜在特征之间的互信息。我们证明，将 PointMask 层与任意模型耦合，可以辨别输入空间中对预测分数贡献最大的点，从而实现可解释性。通过设计的偏置实验，我们还表明，得益于其渐进式掩蔽特征，我们提出的方法在处理数据偏置方面是有效的。
引用
@article{arxiv.2007.04525,
title = {PointMask: Towards Interpretable and Bias-Resilient Point Cloud Processing},
author = {Saeid Asgari Taghanaki and Kaveh Hassani and Pradeep Kumar Jayaraman and Amir Hosein Khasahmadi and Tonya Custis},
journal= {arXiv preprint arXiv:2007.04525},
year = {2020}
}
备注
Accepted to ICML 2020 WHI