超越专业知识与角色：刻画可解释机器学习利益相关者及其需求的框架

为确保问责并减轻危害，关键的在于 diverse 利益相关者能够审问黑盒自动化系统，并找到对他们而言可理解、相关且有用的信息。在本文中，我们避开先前基于专业知识和角色的可解释性利益相关者分类，转而采用一种更细粒度的框架，将利益相关者的知识与其可解释性需求解耦。我们通过利益相关者的形式知识、工具知识和个人知识，以及这些知识在机器学习、数据领域和一般环境等情境中的体现来刻画利益相关者。我们还提炼出一个分层类型的利益相关者需求，将更高层次的领域目标与更低层次的可解释性任务区分开来。在评估我们框架的描述性、评价性和生成性能力时，我们发现这种对利益相关者更细致的处理揭示了可解释性文献中的空白与机会，为用户研究的的设计与比较增添了精确性，并促进了开展此项研究时更具反思性的方法。