针对银行贷款问题的神经伪标签乐观法
机器学习
2021-12-07 v1
摘要
我们研究一类以“银行贷款”问题为典型代表的分类问题，其中放贷者决定是否发放贷款。放贷者仅当贷款被发放后才能观测到客户是否会还款，因此建模决策会影响放贷者可用于未来决策的数据。结果，放贷者的算法可能“陷入”一个自我实现的模型而无法自拔。该模型从不纠正其假阴性，因为它从未见到被拒数据的真实标签，从而累积无限后悔。在线性模型情形下，该问题可通过直接在模型预测中引入乐观性来解决。然而，极少有方法能推广到使用深度神经网络（DNN）的函数逼近情形。我们提出伪标签乐观法（PLOT），一种概念上和计算上均简洁、适用于 DNN 的该设定方法。PLOT 对当前模型所决策的该部分决策点添加乐观标签，在所有迄今数据（含这些点及其乐观标签）上训练模型，并最终使用所得的“乐观”模型进行决策。PLOT 在一组三个具挑战性的基准问题上取得有竞争力的表现，且仅需极少的超参数调优。我们还证明，在 Lipschitz 与 logistic 均值标签模型下，以及数据可分离条件成立时，PLOT 满足对数后悔保证。
引用
@article{arxiv.2112.02185,
title = {Neural Pseudo-Label Optimism for the Bank Loan Problem},
author = {Aldo Pacchiano and Shaun Singh and Edward Chou and Alexander C. Berg and Jakob Foerster},
journal= {arXiv preprint arXiv:2112.02185},
year = {2021}
}
备注
10 pages main, 14 pages appendix