一种用于解释黑盒序列到序列模型预测的因果框架
机器学习
2017-11-16 v3
摘要
我们针对特定的输入-输出对，解释任何黑盒结构化输入-结构化输出模型的预测。我们的方法返回一个“解释”，由因果相关的输入-输出词元组构成。这些依赖关系通过用扰动输入查询黑盒模型、从响应生成词元上的图、并求解划分问题以选择最相关分量来推断。我们将该通用方法聚焦于序列到序列问题，采用变分自编码器来产生有意义的输入扰动。我们在多个NLP序列生成任务上测试了该方法。
引用
@article{arxiv.1707.01943,
title = {A causal framework for explaining the predictions of black-box sequence-to-sequence models},
author = {David Alvarez-Melis and Tommi S. Jaakkola},
journal= {arXiv preprint arXiv:1707.01943},
year = {2017}
}
备注
12 Pages, EMNLP 2017