简化Concrete Dropout——改进细粒度分类中归因掩码的生成
计算机视觉与模式识别
2023-07-28 v1
摘要
细粒度分类是分类问题的一个特例,旨在对视觉外观相似、仅能通过细微差异区分的对象进行分类。细粒度分类模型常部署于自动动物监测系统中以确定动物物种或个体。对模型决策的精确视觉解释对于分析系统性错误至关重要。基于注意力或梯度的方法常用于识别图像中对分类决策贡献最大的区域。这些方法给出的解释要么过于粗糙要么过于嘈杂,难以可靠识别细微视觉差异。然而,基于扰动的方法能精确识别对分类结果有因果关系的像素。Fill-in of the dropout(FIDO)算法即为其中之一。它利用concrete dropout(CD)采样一组归因掩码,并基于分类模型输出更新采样参数。该算法的一个已知问题是梯度估计的高方差,作者迄今通过采样参数的小批量更新来缓解。本文提出一种解决方案,通过简化CD采样并减少对大批量大小的依赖来规避这些计算不稳定性。首先,它允许以更小的小批量大小估计参数而不损失估计质量,且计算开销降低。此外,我们的方案生成更精细且更连贯的归因掩码。最后,我们利用所得归因掩码在无需额外微调模型的情况下提升已训练模型的分类性能。
引用
@article{arxiv.2307.14825,
title = {Simplified Concrete Dropout -- Improving the Generation of Attribution Masks for Fine-grained Classification},
author = {Dimitri Korsch and Maha Shadaydeh and Joachim Denzler},
journal= {arXiv preprint arXiv:2307.14825},
year = {2023}
}
备注
Accepted at the German Conference on Pattern Recognition 2023 (GCPR 2023)