理解代理解释：复杂性、保真度与覆盖度之间的相互作用

本文分析了代理解释背后的基本要素，以更好地理解其内在机制。我们从全局代理出发展开论述，描述了代理的复杂性与对所建模黑盒的保真度之间的权衡。我们表明，从全局过渡到局部——降低覆盖度——可在代理保真度-复杂性的帕累托前沿上带来更有利的条件。我们讨论了复杂性、保真度与覆盖度之间的相互作用，并考量不同的用户需求如何导致将这些要素作为约束或惩罚的问题表述。我们还展示了表明局部代理可解释性过程可交互化并带来更好解释的试验。