缓解偶然相关性对基于部件学习的影响
机器学习
2023-10-03 v1
摘要
智能系统具备一项关键特征：将复杂问题拆解为可复用的更小组件或部件，并利用这些部件表示适应新任务。然而，当前的部件学习器难以应对由有限观测引起的偶然相关性——对象可能仅以特定排列或特定背景出现。这些偶然相关性可能对所学部件表示的泛化能力与可解释性产生有害影响。本研究主张，借助两种创新正则化方法，基于部件的表示在有限数据下可更具可解释性且泛化更好。第一种正则化通过独特的混合部件（mixture-of-parts）公式分离前景与背景信息的生成过程。利用弱监督损失对部件施加结构约束，确保前景与背景的混合部件包含柔性的、与对象无关的掩码。第二种正则化采用蒸馏损失的形式，确保所学部件对偶然背景相关性保持不变性。此外，我们引入稀疏与正交约束以促进高质量部件表示的学习。通过降低偶然背景相关性对所学部件的影响，我们在包括 MiniImagenet、TieredImageNet 和 FC100 在内的基准数据集的少样本学习任务上取得了最先进（SoTA）性能。我们还证明，通过我们的方法获得的基于部件的表示比现有技术泛化更好，即使在 ImageNet-9 数据集上背景域偏移和常见数据损坏下也是如此。实现代码见 GitHub：https://github.com/GauravBh1010tt/DPViT.git
引用
@article{arxiv.2310.00377,
title = {Mitigating the Effect of Incidental Correlations on Part-based Learning},
author = {Gaurav Bhatt and Deepayan Das and Leonid Sigal and Vineeth N Balasubramanian},
journal= {arXiv preprint arXiv:2310.00377},
year = {2023}
}
备注
Accepted in 37th Conference on Neural Information Processing Systems (NeurIPS'2023)