基于距离度量学习的专家引导正则化
机器学习
2019-12-10 v1 机器学习
摘要
高维预测是传统统计模型面临的一个具有挑战性的问题设定。尽管正则化在高维下改善了模型性能，但它并未充分利用领域专家所掌握的关于特征重要性的知识。作为标准正则化技术的替代方案，我们提出距离度量学习正则化（DMLreg），一种从领域专家处获取先验知识并将该知识整合到正则化线性模型中的方法。首先，我们从专家提供的成对相似性比较中学习观测之间的马氏距离度量。然后，我们使用学习到的距离度量在线性模型的系数上放置先验分布。通过在模拟高维预测问题上的实验结果，我们表明当领域专家具备相关知识时，DMLreg 可带来模型性能的提升。
引用
@article{arxiv.1912.03984,
title = {Expert-guided Regularization via Distance Metric Learning},
author = {Shouvik Mani and Mehdi Maasoumy and Sina Pakazad and Henrik Ohlsson},
journal= {arXiv preprint arXiv:1912.03984},
year = {2019}
}