转头:激活分类器隐含的空间不变性
机器学习
2024-05-28 v2 计算机视觉与模式识别
摘要
深度神经网络已广泛应用于日常生活中的多个领域,但仍缺乏对空间变换输入信号具有鲁健处理能力的基本能力。为缓解这一严重鲁棒性问题,现有的解决方法仅限于两条路径:要么通过增加样本变异性(数据增强)对模型进行隐式正则化,要么通过硬编码的归纳偏置对模型进行显式约束。前者的限制因素在于数据空间的大小,导致难以实现充分的样本覆盖。后者的限制在于为每种可能的场景开发此类归纳偏置所需的工程 effort。我们受人类行为启发,在推理过程中通过心理或物理动作来修改感知。我们提出了一种新技术,模拟神经网络的此类推理过程。通过在推理时遍历被稀疏化的逆变换树,采用并行能量评估实现。我们提出的推理算法称为逆变换搜索(Inverse Transformation Search, ITS),是一种模型无关的方法,为模型提供了对空间变换输入的零样本伪不变性。我们在多个基准数据集上对方法进行了评估,包括合成的ImageNet测试集。在所有零样本测试场景中,ITS均优于所采用的基线方法。
引用
@article{arxiv.2405.03730,
title = {Tilt your Head: Activating the Hidden Spatial-Invariance of Classifiers},
author = {Johann Schmidt and Sebastian Stober},
journal= {arXiv preprint arXiv:2405.03730},
year = {2024}
}