查询通道：遮蔽基解释的信噪比极限

遮蔽式后置解释方法（如KernelSHAP和LIME）通过查询在随机扰动下的黑箱模型来估计局部特征重要性。本文将此程序形式化为查询信道中的通信，其中潜在解释充当消息，而每个遮蔽评估充当信道使用。在此框架中，解释的复杂度由假设类的熵捕获，而查询接口的供给信息率由每个查询的识别容量决定。我们推导出强逆命题，表明如果解释速率超过此容量，则对任何解释器和解码器的序列，精确恢复的概率必然趋于1。我们还证明了实现结果，表明稀疏最大似然解码器在速率位于容量以下时可实现可靠恢复。蒙特卡罗方法估计互信息可产生非渐近查询基准，我们用以比较最优解码与Lasso-和OLS-based程序，这些程序类似于LIME和KernelSHAP。实验结果显示，在查询预算范围内，信息论允许可靠解释，但标准凸函数代理仍然失败。最后，我们将超像素分辨率和神经语言模型的分词解释为一种源编码选择，从而决定解释的熵，并展示高斯噪声和非线性曲率如何降解查询信道，诱导滴水和误差底行为样，并使高分辨率解释不可实现。