通过交互式解释使深度神经网络基于正确的科学依据做出正确预测
机器学习
2024-03-06 v4 人工智能
机器学习
摘要
深度神经网络在许多现实世界应用中表现出优异的性能。遗憾的是，它们可能表现出类似“Clever Hans”的行为——利用数据集中的混杂因素——来获得高性能。在这项工作中，我们引入了新颖的学习设定“解释交互式学习”（XIL），并在一个植物表型研究任务上展示了其优势。XIL将科学家引入训练循环中，使其通过对其解释提供反馈来交互式地修正原始模型。我们的实验结果表明，XIL有助于避免机器学习中的Clever Hans现象，并鼓励（或在适当时阻止）对底层模型的信任。
引用
@article{arxiv.2001.05371,
title = {Making deep neural networks right for the right scientific reasons by interacting with their explanations},
author = {Patrick Schramowski and Wolfgang Stammer and Stefano Teso and Anna Brugger and Xiaoting Shao and Hans-Georg Luigs and Anne-Katrin Mahlein and Kristian Kersting},
journal= {arXiv preprint arXiv:2001.05371},
year = {2024}
}
备注
arXiv admin note: text overlap with arXiv:1805.08578