迈向负责任的人工智能：用于调查公平性的人中心人工智能用户界面设计空间探索
人工智能
2022-06-02 v1 人机交互
摘要
随着辅助或自动化决策的人工智能(AI)快速发展，其公平性成为一个特别令人关切的问题。为了通过人中心人工智能(HCAI)设计创建可靠、安全和可信赖的系统，近期的努力已产出供 AI 专家调查 AI 模型公平性的用户界面(UI)。在本工作中，我们提供了一种设计空间探索，不仅支持数据科学家，也支持领域专家调查 AI 公平性。以贷款申请为例，我们与贷款专员和数据科学家开展了一系列研讨会以引出他们的需求。我们将这些需求实例化为 FairHIL——一个支持人在回路公平性调查的用户界面，并描述该 UI 如何推广到其他用例。我们通过出声思考用户研究评估了 FairHIL。我们的工作为调查 AI 模型公平性并更接近负责任的人工智能贡献了更好的设计。
引用
@article{arxiv.2206.00474,
title = {Towards Responsible AI: A Design Space Exploration of Human-Centered Artificial Intelligence User Interfaces to Investigate Fairness},
author = {Yuri Nakao and Lorenzo Strappelli and Simone Stumpf and Aisha Naseer and Daniele Regoli and Giulia Del Gamba},
journal= {arXiv preprint arXiv:2206.00474},
year = {2022}
}
备注
44 pages, 17 figures, the draft of a paper on International Journal of Human-Computer Interaction