思维方式与管理：AI 与性别在金融中（不）公平的获取

金融科技(fintech)中的一个日益增长的趋势是利用移动电话数据和机器学习(ML)提供信用评分-以及随后获取贷款的机会-给传统银行忽略的群体。本文基于对低和中等收入国家开发基于机器学习的替代性贷款应用程序的金融科技公司领导人、投资者和数据科学家的访谈数据，探讨金融包容性和性别影响。更具体地说，本文检讨基于机器学习的替代性贷款工具的底层逻辑、设计选择和管理决策如何嵌入或挑战性别偏见，从而影响金融中性别公平。研究发现，开发者遵循“性别盲”方法，基于ML客观且数据反映真理的信念。这导致缺乏对数据、信用资格特征以及获取应用程序方式的性别性问题的思考。总体而言，工具增加了金融获取，但未实现性别公平：访谈者报告女性获取贷款机会少于男性且领取金额更小，尽管她们的偿还记录更好。金融科技公司认识到性别差异的需求和供给方面原因，但将其界定为超出其责任范围。然而，女性被视为更好的偿还者这一观察揭示了市场效率不足和潜在的歧视性影响，这进一步与利润优化目标相关联。这项研究提出了编码性别规范的概念，即在没有对数据和算法设计性别性质的明确关注的情况下，AI工具会复制现有的不平等。在此过程中，它们强化了性别规范作为自我实现的预言。将AI本质上客观且独立时“公平”的观念具有极具吸引力且误导性。在现实中，算法反映的是设计它们的人和机构的视角、优先事项和价值观。