数据驱动的解释对分布外数据是否具有鲁棒性？
机器学习
2023-03-30 v1
摘要
随着黑盒模型越来越多地应用于高风险场景，各种数据驱动的解释方法被提出。与此同时，机器学习模型不断受到分布偏移的挑战。一个自然产生的问题是：数据驱动的解释对分布外数据是否具有鲁棒性？我们的实证结果表明，即使在分布偏移下预测正确，模型仍可能产生不可靠的解释。如何针对分布外数据开发鲁棒的解释？为解决这个问题，我们提出了一种端到端、模型无关的学习框架——分布鲁棒解释（DRE）。其核心思想是受自监督学习启发，充分利用分布间信息，为解释的习得提供无需人工标注的监督信号。鲁棒的解释能否提升模型的泛化能力？我们在广泛的任务和数据类型上进行了大量实验，包括图像与科学表格数据的分类与回归。结果表明，所提方法在解释与预测对分布偏移的鲁棒性方面显著提升了模型性能。
引用
@article{arxiv.2303.16390,
title = {Are Data-driven Explanations Robust against Out-of-distribution Data?},
author = {Tang Li and Fengchun Qiao and Mengmeng Ma and Xi Peng},
journal= {arXiv preprint arXiv:2303.16390},
year = {2023}
}
备注
In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2023