TRIVEA：基于黑盒排序算法可视化解译的透明排序解释

排序方案驱动着许多现实世界决策，例如去哪里求学、雇佣谁、买什么等。这些决策往往伴随高昂代价。例如，一所大学若未出现在 top-k 榜单中会被认为声望较低，消费者甚至可能不会去探索未被推荐给买家的产品。这些决策的核心多为不透明的排序方案，其决定了数据实体的顺序，但内部逻辑不可访问或属专有。对排序差异进行推断对利益相关者（如被排序者（即被排名的实体，如产品公司）和决策者（即使用排名的人，如买家））而言如同猜谜游戏。本文旨在利用从可用数据中学习的算法排序器，并借助可解释 AI（XAI）方法使人类能对学习到的排序差异进行推理，从而实现排序解释中的透明性。为实现此目标，我们借助人机交互的探索-解释范式，让人类利益相关者利用模型拟合和属性对排序影响的可视化解释来探索复杂多属性排序数据的子集与分组。我们在 TRIVEA 这一可视化分析系统中实现了该用于透明排序解释的 explanation 范式，其由以下两部分驱动：i) 由算法排序器导出的模型拟合可视化，这些排序器从可用数据中学习属性与排序间的关联；ii) 由 XAI 方法导出的可视化解译，其有助于抽象重要模式，例如不同排序区间中属性的相对影响。借助 TRIVEA，未接受数据科学训练的最终用户能够透明地推理排序的全局与局部行为，而无需打开黑盒排序模型，并对所得基于属性的推断建立信心。我们通过多个使用场景及具有不同领域专业知识的研究人员的主观反馈展示了 TRIVEA 的有效性。