差异影响即便对优势用户也削弱消费者信任
人机交互
2021-07-06 v3
摘要
旨在辅助消费者决策的系统（例如通过实施说服技术）在消费者信任它们时更可能有效。然而，近期研究表明，常作为此类技术基础的机器学习算法可能对特定群体不公平（例如对男性比女性作出更有利的预测）。由此类算法不公平导致的非期望差异影响可能削弱消费者信任，从而破坏系统目的。我们通过开展一项被试间用户研究来考察（与性别相关的）差异影响如何影响消费者在一款旨在改善其财务决策的应用中的信任，从而研究该效应。我们的结果显示差异影响降低了消费者对系统的信任并使其使用意愿下降。此外，我们发现尽管这两类消费者群体均认识到各自的受益程度，信任受影响的程度在消费者群体间（即优势与劣势用户）相同。我们的发现凸显了面向消费者的AI系统中公平性的重要。
引用
@article{arxiv.2101.12715,
title = {Disparate Impact Diminishes Consumer Trust Even for Advantaged Users},
author = {Tim Draws and Zoltán Szlávik and Benjamin Timmermans and Nava Tintarev and Kush R. Varshney and Michael Hind},
journal= {arXiv preprint arXiv:2101.12715},
year = {2021}
}