理解算法决策中公平性与信任感知之间的关系
计算机与社会
2021-09-30 v1 人机交互
摘要
算法过程越来越多地被用于执行管理决策，尤其是在人工智能（AI）取得巨大成功之后。这种范式转变的发生是因为这些复杂的 AI 技术保证了性能指标的最优性。然而，由于公平性等各种担忧，这种采用目前正受到严格审查，并且 AI 算法的公平性如何影响用户的信任是一个非常值得探究的问题。在这方面，我们旨在理解所引入的算法公平性及其在人类中的感知之间的关系。特别是，我们感兴趣的是这两者是否呈正相关并反映了实质性的公平。此外，我们还研究了所引入的算法公平性如何影响用户对算法决策的信任。为了理解这一点，我们进行了一项用户研究，通过在人力资源招聘场景中引入（通过数学操作）公平性来模拟候选人筛选。我们的实验结果表明，不同水平的引入公平性与人类的公平性感知呈正相关，同时它与用户对算法决策的信任也呈正相关。有趣的是，我们还发现用户对较高水平的引入公平性比较低水平的引入公平性更敏感。此外，我们总结了本研究的理论和实践意义，并对公平性感知进行了讨论。
引用
@article{arxiv.2109.14345,
title = {Understanding Relations Between Perception of Fairness and Trust in Algorithmic Decision Making},
author = {Jianlong Zhou and Sunny Verma and Mudit Mittal and Fang Chen},
journal= {arXiv preprint arXiv:2109.14345},
year = {2021}
}