理解消费者对 XAI 算法所生成解释的偏好

在面向客户的应用中，解释算法所作的企业决策正日益为监管者所要求、为客户所期待。尽管新兴的可解释人工智能（XAI）领域主要聚焦于开发生成此类解释的算法，但对于客户针对各类类型与格式解释的偏好尚未给予充分考量。我们从理论上探讨并实证研究了人们对算法决策解释的偏好。我们聚焦于描述现有 XAI 算法自动生成解释的三个主要属性（格式、复杂度与特异性），并捕捉跨情境（在线定向广告 vs. 贷款申请）的差异以及用户认知风格的异质性。尽管反事实解释在学者中颇受欢迎，我们发现其并不受用户青睐，除非其紧随负面结果之后（例如贷款申请被拒）。我们还发现用户愿意容忍解释中的一定复杂度。最后，我们的结果表明，对具体（相对于更抽象）解释的偏好与用户对所涉决策的建构层级以及用户认知风格的审慎性相关。