利用加权正则化修复深度神经网络的类级错误
机器学习
2022-04-05 v2 人工智能
计算机视觉与模式识别
软件工程
摘要
深度神经网络（DNNs）已广泛用于做出影响人们生活的决策软件中。然而，人们发现它们表现出可能导致不幸结果的严重错误行为。先前研究表明，此类异常行为常因类属性违背而非单张图像上的错误而发生。尽管已有检测此类错误的方法，但修复它们迄今尚未被研究。在此，我们提出一种称为加权正则化（WR）的通用方法，包含五种针对产生错误的类以修复 DNNs 的具体方法。特别地，它可修复单标签与多标签图像分类 DNN 模型的混淆错误与偏置错误。混淆错误发生于给定 DNN 模型倾向于混淆两个类时。WR 中每种方法在 DNN 重训练或推理阶段分配更大权重，以缓解目标类对间的混淆。偏置错误可以类似方式修复。我们在六个广泛使用的数据集与架构组合上评估并比较了所提方法与基线。结果表明，WR 方法具有不同的权衡，但在每种设置下至少一种 WR 方法能以极有限的整体性能代价大幅降低混淆/偏置错误。
引用
@article{arxiv.2203.13612,
title = {Repairing Group-Level Errors for DNNs Using Weighted Regularization},
author = {Ziyuan Zhong and Yuchi Tian and Conor J. Sweeney and Vicente Ordonez and Baishakhi Ray},
journal= {arXiv preprint arXiv:2203.13612},
year = {2022}
}