在二值激活神经网络中寻求可解释性与可说明性

我们研究在表格数据回归任务中使用二值激活神经网络作为可解释且可说明的预测器；更具体地，我们提供其表达能力的保证，提出一种基于高效计算 SHAP 值的方法来量化特征、隐藏神经元乃至权重的相对重要性。由于模型的简洁性对实现可解释性至关重要，我们提出了一种用于构建紧凑二值激活网络的贪心算法。该方法无需预先固定网络架构：它逐层、逐神经元地构建，从而得到对给定任务而言不过度复杂的预测器。