超越准确率的 ConvNets 与 ImageNet：理解错误并揭示偏差
机器学习
2018-07-23 v2 人工智能
计算机视觉与模式识别
计算机与社会
机器学习
摘要
ConvNets 和 ImageNet 推动了深度学习在图像分类中的近期成功。然而，性能提升的显著放缓，加上神经网络对对抗样本缺乏鲁棒性以及表现出不良偏差的倾向，使人们质疑这些方法的可靠性。本工作从终端用户的角度，利用人类受试者研究与解释方法考察这些问题。本研究的贡献有三方面。我们首先通过实验证明，在 ImageNet 上测量的 ConvNets 的准确率与鲁棒性被严重低估。接着，我们表明从终端用户视角看，解释可以缓解错误分类的对抗样本的影响。我们最后引入了一种揭示模型所学不良偏差的新工具。这些贡献也表明，解释既是增进我们对 ConvNets 预测理解的有价值工具，也是设计更可靠模型的有价值工具。
引用
@article{arxiv.1711.11443,
title = {ConvNets and ImageNet Beyond Accuracy: Understanding Mistakes and Uncovering Biases},
author = {Pierre Stock and Moustapha Cisse},
journal= {arXiv preprint arXiv:1711.11443},
year = {2018}
}
备注
ECCV 2018 camera-ready