伪科学在金融贷款风险预测中的影响
计算机与社会
2025-07-25 v2 机器学习
摘要
我们研究了在将机器学习直接应用于金融贷款风险预测时，伪科学假设对人类行为预测的社会影响。该用例也例证了贷款偿还预测中生存偏差的影响。我们从准确性和社会成本方面对这些模型进行了分析，表明对于这一下游任务，社会最优模型可能并不意味着显著的准确性损失。我们的结果在常用的学习方法和数据集上得到了验证。我们的发现还表明，在训练受生存偏差影响的模型时存在一种自然动态：其准确性随时间略有下降，而召回率和精确度随时间提高。这些结果产生了一种错觉，使观察者相信系统正在变得更好，而事实上模型正遭受日益严重的不公平性和生存偏差。
引用
@article{arxiv.2507.16182,
title = {The Impact of Pseudo-Science in Financial Loans Risk Prediction},
author = {Bruno Scarone and Ricardo Baeza-Yates},
journal= {arXiv preprint arXiv:2507.16182},
year = {2025}
}