机器学习模型公平性的交互式可视化诊断工具 RISE
机器学习
2026-02-05 v1
摘要
在域迁移下评估公平性具有挑战性，因为标量指标往往掩盖了差异出现的具体位置和方式。我们引入了 \textit{RISE}（Residual Inspection through Sorted Evaluation），一种将排序残差转换为可解释图案的交互式可视化工具。通过将残差曲线结构与正式公平性概念相连接，RISE 实现了局部差异诊断、跨环境的子群比较以及隐藏公平性问题的检测。通过后置分析，RISE 揭示了聚合统计所遗漏的准确性与公平性之间的权衡，支持更明智的模型选择。
引用
@article{arxiv.2602.04339,
title = {RISE: Interactive Visual Diagnosis of Fairness in Machine Learning Models},
author = {Ray Chen and Christan Grant},
journal= {arXiv preprint arXiv:2602.04339},
year = {2026}
}