再探合理性检验：修复模型参数随机化测试的探索
人工智能
2024-01-15 v1 机器学习
统计方法学
摘要
模型参数随机化测试（MPRT）因其动机明确的评估原则——解释函数应对模型函数参数的变化敏感——而在可解释人工智能（XAI）领域得到广泛认可。然而，近期研究指出了MPRT在经验解释上的若干方法论缺陷。为解决这些缺陷，我们对原始MPRT引入了两种改进——平滑MPRT和高效MPRT，前者通过采样最小化噪声对评估结果的影响，后者通过在全参数随机化后重新解释解释复杂度的上升，避免了对有偏相似性度量的需求。我们的实验结果表明，这些提出的变体提高了度量的可靠性，从而使得XAI方法的应用更加可信。
引用
@article{arxiv.2401.06465,
title = {Sanity Checks Revisited: An Exploration to Repair the Model Parameter Randomisation Test},
author = {Anna Hedström and Leander Weber and Sebastian Lapuschkin and Marina MC Höhne},
journal= {arXiv preprint arXiv:2401.06465},
year = {2024}
}
备注
19 pages, 12 figures, NeurIPS XAIA 2023