人口统计特征与讨论影响对算法公平性的看法

算法公平性领域凸显了可能无纯技术性答案的伦理问题。例如，不同的算法公平性约束通常无法同时被满足，而在它们之间做选择需要对哪些人可能持不同意见进行价值判断。除非我们首先理解人们为何意见相左，否则就算法公平性达成共识将十分困难。此处我们使用一系列调查来研究两个因素如何影响分歧：人口统计特征与讨论。首先，我们研究关于算法公平性问题的分歧是否部分由人口统计背景差异引起。这是一个令人关注的问题，因为计算机科学在人口统计上不具备代表性。若关于算法公平性的信念与人口统计相关，且算法设计者在人口统计上不具代表性，则关于算法公平性的决策可能不反映全体人口的意愿。我们使用对三个独立群体的调查表明，在算法公平性的信念上存在性别差异。例如，若在某向学生推荐课程、将性别作为特征会使女学生更不可能被推荐科学课程的算法中这样做，女性较不倾向于赞成将性别作为特征。其次，我们调查人们的算法公平性观点是否可被讨论改变，并使用对两个计算机科学班级学生的纵向调查表明，它们可以被改变。