反应式模型修正：通过条件偏差抑制减轻对任务相关特征的损害
机器学习
2024-04-16 v1 人工智能
计算机视觉与模式识别
摘要
深度神经网络容易学习并依赖训练数据中的虚假相关性，这对于高风险应用可能产生致命后果。已有多种方法被提出以抑制模型对有害特征的依赖，这些方法无需额外训练即可事后应用。尽管这些方法能够高效应用，但它们也倾向于通过全局改变潜在特征分布而损害模型性能。为了减轻对模型行为的意外过度修正，我们提出了一种以模型衍生知识和可解释人工智能（XAI）洞察为条件的反应式方法。虽然该反应式方法可应用于许多事后方法，但我们特别展示了将反应性融入 P-ClArC（投影类伪影补偿，Projective Class Artifact Compensation）中，引入了一种称为 R-ClArC（反应式类伪影补偿，Reactive Class Artifact Compensation）的新方法。通过在受控环境 和真实世界数据集 (ISIC2019) 中的严格实验，我们表明引入反应性可以最小化所应用修正的不利影响，同时确保对虚假特征的低依赖性。
引用
@article{arxiv.2404.09601,
title = {Reactive Model Correction: Mitigating Harm to Task-Relevant Features via Conditional Bias Suppression},
author = {Dilyara Bareeva and Maximilian Dreyer and Frederik Pahde and Wojciech Samek and Sebastian Lapuschkin},
journal= {arXiv preprint arXiv:2404.09601},
year = {2024}
}