大数据与信息技术对弱势群体的双刃剑效应：来自开放银行的警示

本文以开放银行为例，分析并揭示了看似中立的数据与机器学习（ML）等强大技术结合时对公平性的隐性影响。开放银行引发了金融服务的革命，为客户获取、管理、留存和风险评估开辟了新机遇。然而，交易数据的细粒度可能在无意中作为敏感和禁止特征的代理变量导致间接歧视，从而具有潜在危害。在此背景下，我们研究了金融脆弱性（FV）的维度，这是新冠疫情和通胀上升引发的全球性问题。具体而言，我们试图通过公平解释的视角，理解导致FV的行为要素及其对处于风险中的弱势群体的影响。利用一家英国金融科技贷款机构的独特数据集，我们展示了细粒度交易数据的威力，同时警示其安全使用。我们比较了三种ML分类器在预测FV可能性方面的表现，并通过聚类识别出表现出不同规模和形式FV的群体，以凸显特征组合的影响。我们的结果表明，金融行为的工程化特征可以预测被遗漏的个人信息，特别是敏感或受保护特征，从而揭示开放银行数据的隐性危险。我们讨论了相关影响，并得出结论：在新科技环境下，通过不知情实现的公平性无效。