PICASO：置换不变级联注意力集合算子
计算机视觉与模式识别
2021-07-20 v1
摘要
集合输入深度网络近来在计算机视觉和机器学习中引起很大兴趣。这部分是由于元学习、聚类和异常检测等越来越多定义在集合输入上的重要任务。这些网络必须接受任意数量的输入样本，并产出对输入集合置换不变的输出。近期已开发若干算法以应对这一迫切需求。我们的论文使用合成和真实世界数据集分析了这些算法，表明它们不能有效处理图像平移或视角变化等常见数据变动。为解决此局限，我们提出一种置换不变级联注意力集合算子（PICASO）。PICASO的要点是带有动态模板的多头注意力块级联。所提出的算子是一个独立模块，可适配和扩展以服务于不同机器学习任务。我们在四种多样场景中展示了PICASO的效用：（i）聚类，（ii）新视角下的图像分类，（iii）图像异常检测，以及（iv）状态预测。PICASO将SmallNORB在新视角下的图像分类准确率提高了约10个百分点。对于CelebA数据集上的集合异常检测，我们的模型将ROC和PR曲线下面积分别提高约22%和10%。对于CLEVR数据集上的状态预测，它将AP提高约40%。
引用
@article{arxiv.2107.08305,
title = {PICASO: Permutation-Invariant Cascaded Attentional Set Operator},
author = {Samira Zare and Hien Van Nguyen},
journal= {arXiv preprint arXiv:2107.08305},
year = {2021}
}