具有不可预测特征演化下的预测
机器学习
2021-06-15 v2 机器学习
摘要
特征演化学习研究数据流特征可发生演化（即旧特征消失、新特征出现）的场景，其目标是即使特征发生演化也保持模型始终表现良好。为此，典型方法假设旧特征将同时消失且新特征本身也将同时出现，并假设在特征空间开始变化时存在旧特征与新特征共存的重叠期。然而在现实中，特征演化可能是不可预测的，这意味着特征可任意消失或出现，导致重叠期不完整。本文提出一种新范式：不可预测特征演化下的预测（PUFE），其中特征演化是不可预测的。为解决该问题，我们填补不完整的重叠期并将其表述为一个新的矩阵补全问题。我们给出了使重叠期完整所需观测项数的最少理论界。借助该完整重叠期，我们利用集成方法同时利用旧特征空间与新特征空间的优势，而无需手动决定应纳入哪些基模型。理论与实验结果验证了我们的方法总能跟随最佳基模型，从而实现特征演化学习的目标。
引用
@article{arxiv.1904.12171,
title = {Prediction with Unpredictable Feature Evolution},
author = {Bo-Jian Hou and Lijun Zhang and Zhi-Hua Zhou},
journal= {arXiv preprint arXiv:1904.12171},
year = {2021}
}