但那并非原因：通过交互式原型修正进行调整推断
机器学习
2023-10-10 v2
摘要
尽管机器学习取得了显著进展，人工智能体的决策仍不完美，且常需事后人工干预。若模型预测依赖于不合理因素，则期望消除其影响。深度交互式原型调整使用户能够给出提示并纠正模型的推理。本文中，我们证明原型部件模型非常适于该任务，因为其预测基于可被用户从语义上解释的原型图像块。研究表明，即便正确的分类也可能依赖于数据集中混淆变量导致的非合理原型。因此，我们提出简单而有效的推断调整交互方案：交互式咨询用户以识别错误原型。非对象原型可通过原型掩蔽或自定义的反选训练模式去除。交互式原型拒绝使机器学习 naïve 用户能够调整推理逻辑而不损害准确率。
引用
@article{arxiv.2203.10087,
title = {But that's not why: Inference adjustment by interactive prototype revision},
author = {Michael Gerstenberger and Sebastian Lapuschkin and Peter Eisert and Sebastian Bosse},
journal= {arXiv preprint arXiv:2203.10087},
year = {2023}
}