利用里德-穆勒码进行分类及拒绝与纠错
机器学习
2023-09-13 v1
摘要
在现实世界中部署分类器时，用户期望它们能对输入做出恰当响应。然而，传统分类器无法处理与其训练分布相差甚远的输入。恶意行为者可以利用这一缺陷，制造对抗扰动以使分类器给出错误输出。带拒绝的分类方法（classification-with-rejection）试图通过让网络在置信度低时拒绝分类输入来解决该问题。这对强对抗样本效果良好，但也会导致弱扰动图像被拒绝，而直觉上这些图像本可被正确分类。为解决这些问题，我们提出里德-穆勒聚合网络（RMAggNet），一种受里德-穆勒纠错码启发的、能够纠错并拒绝输入的分类器。本文表明，RMAggNet 通过利用在分类过程中纠正错误的能力，可在不同扰动预算的多种对抗攻击下，在保持良好正确率的同时最小化错误率。这提供了一种替代性的带拒绝分类方法，在允许少量错误分类的情况下可减少额外处理量。
引用
@article{arxiv.2309.06359,
title = {Using Reed-Muller Codes for Classification with Rejection and Recovery},
author = {Daniel Fentham and David Parker and Mark Ryan},
journal= {arXiv preprint arXiv:2309.06359},
year = {2023}
}
备注
38 pages, 7 figures