计算机视觉模型的不稳定性是任务本身必然导致的结果
计算机视觉与模式识别
2023-10-27 v1 人工智能
机器学习
摘要
由当前计算机视觉模型不稳定性导致的对抗样本是一个极其重要的课题，因为它们有可能破坏任何应用。在本文中，我们证明不稳定性是不可避免的，原因在于 a）数据的对称性（平移不变性），b）分类任务的类别性质，以及 c）将图像本身分类为对象这一根本矛盾。非穷尽的训练数据标注进一步加剧了该问题。因此我们得出结论：不稳定性是当前计算机视觉问题表述方式必然导致的结果。虽然该问题无法消除，但通过对成因的分析，我们得出了可部分缓解的方法。这些包括 i）提高图像分辨率，ii）为图像提供上下文信息，iii）对训练数据进行穷尽标注，以及 iv）阻止攻击者频繁访问计算机视觉系统。
引用
@article{arxiv.2310.17559,
title = {Instability of computer vision models is a necessary result of the task itself},
author = {Oliver Turnbull and George Cevora},
journal= {arXiv preprint arXiv:2310.17559},
year = {2023}
}