通过最小、稳定且符号化的修正解释神经网络判断
机器学习
2018-09-03 v2 人工智能
机器学习
摘要
我们提出一种新算法，用于生成对输入的最小、稳定且符号化的修正，以使具有 ReLU 激活的神经网络改变其输出。我们认为，当网络输出与期望输出不同时，此类修正是向用户提供反馈的有用方式。我们的算法通过求解一系列线性约束满足问题来生成这样的修正。该技术在一个神经网络模型上进行了评估：一个预测申请人是否会偿还抵押贷款的模型，一个预测一阶定理能否被使用某些启发式的求解器高效证明的模型，以及最后一个判断一幅画是否为猫的标准画作的准确描绘的模型。
引用
@article{arxiv.1802.07384,
title = {Interpreting Neural Network Judgments via Minimal, Stable, and Symbolic Corrections},
author = {Xin Zhang and Armando Solar-Lezama and Rishabh Singh},
journal= {arXiv preprint arXiv:1802.07384},
year = {2018}
}
备注
24 pages