在文本分类中结合特征归因融入先验知识
计算与语言
2019-06-21 v1
摘要
近期提出的特征归因方法帮助用户解释复杂模型的预测。我们的方法将特征归因整合进目标函数，使机器学习从业者能够在模型构建中融入先验知识。为证明该技术的有效性，我们将其应用于两项任务：(1) 通过中和身份术语来缓解文本分类器中的非预期偏差；(2) 在稀缺数据设置下通过迫使模型关注有毒术语来提升分类器性能。我们的方法在目标函数中加入了特征归因与任务特定先验值之间的 L2 距离损失。实验表明：i) 用我们的技术训练的分类器在不牺牲原始任务性能的前提下减少了不期望的模型偏差；ii) 融入先验知识有助于在稀缺数据设置下提升模型性能。
引用
@article{arxiv.1906.08286,
title = {Incorporating Priors with Feature Attribution on Text Classification},
author = {Frederick Liu and Besim Avci},
journal= {arXiv preprint arXiv:1906.08286},
year = {2019}
}
备注
Accepted to ACL 2019