公平感知机器学习：一个视角

从数据中学得的算法正日益被用于决定我们生活的诸多方面：从我们观看的电影，到我们支付的价格，或我们获得的医疗。然而，越来越多的证据表明，由不适当训练的算法做出的决策可能无意中歧视人们。例如，在将求职者简历与职位描述自动匹配时，算法可能捕获并传播与种族相关的偏见。针对选定算法的一些修复方法已被提出，但从计算视角看此类歧视如何发生的潜在机制尚未得到科学理解。我们需要发展算法可能变得具有歧视性的理论理解，并建立用于预防的基础机器学习原理。我们需要整体分析机器学习过程，以系统解释歧视发生的根源，这将允许设计全局机器学习优化准则以保证预防，而不是将经验约束逐个注入现有算法。因此，最先进水平将从启发式修复推进到主动且理论支持的预防。这不仅是因为法律要求保护弱势群体。大数据的渗透只会增加，计算机科学需要在公众担忧导致对机器学习不必要的限制性法规之前，向公众提供坚实的解释和问责。