解释对人—AI 决策中公平性的影响：受保护特征与代理特征

已知 AI 系统会放大真实数据中的偏差。解释或有助于人—AI 团队应对这些偏差以实现更公平的决策。通常，解释聚焦于显著的输入特征。若某模型对某一受保护群体存在偏差，解释可能包含展现该偏差的特征，但当偏差通过代理特征实现时，该代理特征与受保护特征之间的关系对人而言可能较不清晰。在本文中，我们研究受保护与代理特征的存在对参与者关于模型公平性的感知及其在 AI 单独之上改善人口均等方面能力的影响。进一步，我们考察不同处理——解释、模型偏差披露与代理相关性披露——如何影响公平性感知与均等等。我们发现解释帮助人们检测直接而非间接偏差。此外，无论偏差类型如何，解释往往增加与模型偏差的认同。披露可帮助缓解间接偏差的该效应，改善不公平识别与决策公平性。我们希望我们的发现能有助于指导推进解释以支持公平人—AI 决策的进一步研究。