人工智能金融中的社会群体偏见

金融机构越来越依赖大型语言模型（LLM）进行高风险决策。然而，如果未经仔细监督就部署，这些模型可能会延续有害的偏见。本文专门通过信贷决策任务的视角研究LLM中的种族偏见，其前提是这里识别出的偏见预示着金融应用中更广泛的问题。我们引入了一个可复现的反事实测试框架，该框架评估模型对模拟抵押贷款申请人的反应，这些申请人在除种族外的所有属性上都相同。我们的结果揭示了显著的基于种族的差异，超过了历史上观察到的偏见水平。利用逐层分析，我们追踪敏感属性在内部模型表示中的传播。在此基础上，我们部署了一种控制向量干预方法，该方法有效地将种族差异减少了高达70%（平均33%），且不影响模型的整体性能。我们的方法为识别和减轻金融LLM部署中的偏见提供了一个透明且实用的工具包。