基于熵正则化的信息论半监督度量学习
机器学习
2012-06-22 v1 机器学习
摘要
我们提出了一种称为Seraph(超稀疏半监督度量学习范式)的通用信息论方法用于度量学习,该方法不依赖于流形假设。给定由马氏距离参数化的概率,我们最大化该概率在标记数据上的熵,并按照熵正则化最小化其在未标记数据上的熵,这使得监督部分和无监督部分能够以自然且有意义的方式集成。此外,Seraph通过鼓励由度量诱导的低秩投影进行正则化。Seraph的优化通过具有解析E步和凸M步的类EM方案高效稳定地求解。实验表明,Seraph与许多著名的全局和局部度量学习方法相比具有优势。
引用
@article{arxiv.1206.4614,
title = {Information-theoretic Semi-supervised Metric Learning via Entropy Regularization},
author = {Gang Niu and Bo Dai and Makoto Yamada and Masashi Sugiyama},
journal= {arXiv preprint arXiv:1206.4614},
year = {2012}
}
备注
ICML2012