随机分类器 vs 人类决策者：可信 AI 可能必须随机行动且社会似乎接受这一点
计算机与社会
2021-11-16 v1 人工智能
机器学习
摘要
随着人工智能(AI)系统越来越多地参与影响我们生活的决策，确保自动化决策公平且合乎伦理已成为首要任务。直觉上，我们觉得与人类决策类似，人工主体的判断必然应基于某些道德原则。然而，一个决策者(无论是人类还是人工)只有在决策时所能依据的所有相关因素信息完备的情况下，才能做出真正合乎伦理(基于任何伦理理论)和公平(依据任何公平概念)的决策。这引发两个问题：(1) 在我们依赖使用监督学习所得分类器的 AI 系统的场景中，存在某种归纳/泛化，且某些相关属性即使在学习期间也可能不存在。(2) 将此类决策建模为博弈揭示出，任何——无论多么合乎伦理的——纯策略都不可避免地易受利用。此外，在许多博弈中，纳什均衡只能通过使用混合策略获得，即，为取得数学最优结果，决策必须随机化。在本文中，我们论证在监督学习场景下，存在至少与确定性分类器表现相当、并因此在许多情形下可能为最优选择的随机分类器。我们以一项实证研究中社会对随机人工决策者的积极态度支持我们的理论结果，并讨论与随机分类器使用相关、且对当前 AI 政策与标准化举措具有意义的若干政策与实现问题。
引用
@article{arxiv.2111.07545,
title = {Randomized Classifiers vs Human Decision-Makers: Trustworthy AI May Have to Act Randomly and Society Seems to Accept This},
author = {Gábor Erdélyi and Olivia J. Erdélyi and Vladimir Estivill-Castro},
journal= {arXiv preprint arXiv:2111.07545},
year = {2021}
}
备注
46 pages