渐进式解释合成：通过量化已用与未用信息解释任务求解

深度神经网络是良好的任务求解器，但难以理解其运作机制。人们对于如何形成对其运作的解释持有不同观点。我们从新视角看待此问题：任务求解的解释通过量化除用于解决先前任务的信息外，被利用了多少以及哪些先前未使用的信息来合成。首先，在学习若干任务后，网络获得与每个任务相关的若干信息划分。我们提出，网络随后学习最小信息划分，以补充先前学习的信息划分，从而更准确地表示输入。这一额外划分与先前任务中未使用的未概念化信息相关联。我们设法识别使用了哪些未概念化信息并量化其数量。为解释网络如何解决新任务，我们将从每个划分中提取的信息量量化为元信息。我们使用变分信息瓶颈技术实现该框架。我们在 MNIST 和 CLEVR 数据集上测试了该框架。结果表明，该框架能够组合信息划分并以元信息形式合成依赖于经验的解释。该系统通过将未概念化信息划分的一部分转换为任务相关划分，基于新经验逐步提升解释的分辨率。它还可以通过图像化解决新任务所需的先前未概念化信息部分来提供视觉解释。