面向终端用户参与的交互式人在回路AI公平性
人机交互
2022-04-25 v1 人工智能
摘要
确保人工智能（AI）的公平性对于消除广泛应用中的偏见与歧视至关重要。近期研究开始探讨人类如何评判公平性，以及如何辅助机器学习（ML）专家使其AI模型更公平。受交互式机器学习中一种称为解释性调试（explanatory debugging）的可解释AI（XAI）方法启发，本研究探索设计可解释、交互式的人在回路界面，使无任何技术或领域背景的普通终端用户能在贷款决策场景中识别潜在公平性问题并可能予以修正。通过终端用户工作坊，我们共同设计并实现了原型系统，使用户能看到预测依据，并调整特征权重以“调试”公平性问题。我们通过在线研究评估了该原型系统的使用。为探究全球各地关于公平性的多元人类价值观之影响，我们还探索了文化维度在使用该原型中可能发挥的作用。我们的成果有助于设计让终端用户通过人在回路方法参与评判和解决AI公平性的界面。
引用
@article{arxiv.2204.10464,
title = {Towards Involving End-users in Interactive Human-in-the-loop AI Fairness},
author = {Yuri Nakao and Simone Stumpf and Subeida Ahmed and Aisha Naseer and Lorenzo Strappelli},
journal= {arXiv preprint arXiv:2204.10464},
year = {2022}
}