可解释性在于观者心中：建立可解释人工智能的基础

可解释人工智能与可解释机器学习是日益重要的研究领域。然而，其底层概念仍有些难以捉摸且缺乏普遍认同的定义。尽管近期来自社会科学的启发将工作重心重新聚焦于人类接受者的需求与期望，该领域仍缺乏具体的概念化。我们采取步骤应对这一挑战，通过回顾人类可解释性的哲学与社会基础，并将其转化到技术层面。特别地，我们审视了算法黑箱的概念，以及由解释过程与解释对象背景知识所决定的理解谱系。该方法使我们能够将可解释性定义为应用于透明洞察（对可能是黑盒的预测系统的洞察）的（逻辑）推理，这些洞察在背景知识下被解释并置于特定语境中——这一过程在选定的一组解释对象中催生理解。我们随后运用该概念化重新审视评估可解释性的策略，以及透明度与预测能力之间备受争议的权衡，包括其对 ante-hoc 与 post-hoc 技术的影响，以及由可解释性确立的公平性与问责制。我们进一步讨论了机器学习工作流中可能需要可解释性的组成部分，基于一系列以人为中心的可解释性思想，特别关注解释对象、对比性陈述与解释过程。我们的讨论调和并补充了当前研究，以帮助更好地厘清开放问题——而非试图解决任何个别问题——从而为可解释人工智能与可解释机器学习的 grounded 讨论与未来进展奠定坚实基础。