关于解释对理解算法决策制定影响的研究

随着越来越多利益相关者受到“高风险”算法决策制定（ADM）系统的影响，算法的伦理原则日益重要。理解这些系统如何运作使利益相关者能够做出明智决策，并评估系统对伦理价值的遵循情况。解释是建立理解的一种有前景的方式，但当前可解释人工智能（XAI）研究并未总是考量关于理解如何形成与评估的既有理论。在本工作中，我们旨在通过一项有 30 名参与者（包括用户与受影响利益相关者）的定性基于任务的研究，增进对“理解”的理解。我们使用三种解释模态（文本、对话与交互）向参与者解释一个“高风险”ADM 系统，并借助 Wiggins 与 McTighe 的“理解的六个面向”框架，以归纳与演绎方式分析其回应。我们的发现表明，“六个面向”框架是分析参与者理解中思维过程的有前景方法，为理性与情感理解均提供了类别。我们进一步引入“对话”模态作为一种有效的解释方法，以提升参与者与“解释者”的参与和互动，从而在此过程中更深入洞察其理解。我们的分析进一步表明，理解中的个体差异影响参与者对算法公平性的感知，展示了先前研究所述理解与 ADM 评估之间的相互依赖。我们认为，借鉴如“六个面向”等学习与理解理论，并利用解释模态，可指导 XAI 研究更好地使解释适配个体的学习过程，进而使其能评估 ADM 系统的伦理价值。