DNN2LR：面向信用评分的自动特征交叉
机器学习
2021-02-25 v1
摘要
信用评分是金融机构决定批准或拒绝信贷申请机器学习的主要应用。出于可靠性考虑，信用评分模型须同时具备准确性与全局可解释性。简单分类器如逻辑回归 (LR) 为白盒模型，但不足以刻画特征间复杂非线性交互。幸运的是，自动特征交叉是一种有前景的途径，可发现交叉特征，使简单分类器在不依赖繁重人工特征工程下更准确。然而，信用评分通常基于用户多方面属性，数据常含数百个特征域，致使现有自动特征交叉方法对信用评分效率不高。本工作中，我们发现深度神经网络 (DNN) 中特定特征的局部分段解释在不同样本间常不一致，此由隐层特征交互所致。据此，我们可设计自动特征交叉方法以发现 DNN 中特征交互，并将其作为 LR 的交叉特征。我们给出 DNN 中解释不一致的定义，并基于此提出一种称为 DNN2LR 的信用评分预测新颖特征交叉方法。显然，DNN2LR 生成的最终模型即辅以交叉特征的 LR 模型，为白盒模型。我们在来自真实信用评分应用的公开与业务数据集上进行了充分实验。实验表明，DNN2LR 优于 DNN 模型及若干特征交叉方法。此外，相较最先进特征交叉方法 AutoCross，DNN2LR 在具有大量特征域的数据集上可将特征交叉速度提升约 10 至 40 倍。
引用
@article{arxiv.2102.12036,
title = {DNN2LR: Automatic Feature Crossing for Credit Scoring},
author = {Qiang Liu and Zhaocheng Liu and Haoli Zhang and Yuntian Chen and Jun Zhu},
journal= {arXiv preprint arXiv:2102.12036},
year = {2021}
}
备注
arXiv admin note: substantial text overlap with arXiv:2008.09775