显著性学习：教导模型何处予以关注
计算与语言
2019-05-21 v3 人工智能
机器学习
摘要
深度学习已成为许多 NLP 任务引人注目的解决方案，并取得了卓越性能。然而，由于其不透明性，此类模型难以解释与信任。近期关于解释深度模型的工作引入了提供模型行为与预测洞察的方法，有助于评估模型预测的可靠性。然而，此类方法并未提升模型的可靠性。在本文中，我们旨在通过提供解释训练并确保模型的解释与真实解释相对齐，来教导模型出于正确理由做出正确预测。我们在多个任务和数据集上的实验结果证明了所提方法的有效性，其相较于传统训练的模型产生了更可靠的预测，同时给出了更好的结果。
引用
@article{arxiv.1902.08649,
title = {Saliency Learning: Teaching the Model Where to Pay Attention},
author = {Reza Ghaeini and Xiaoli Z. Fern and Hamed Shahbazi and Prasad Tadepalli},
journal= {arXiv preprint arXiv:1902.08649},
year = {2019}
}
备注
Accepted as a short paper at NAACL 2019. 10 pages, 2 figures, 6 tables