通过最小化排序值域和进行学习
机器学习
2020-10-06 v1 机器学习
摘要
在构造学习目标时，常需将一组个体值聚合为单一输出。此类情形出现在聚合损失中（其结合学习模型在每个训练样本上的个体损失），也出现在多标签学习的个体损失中（其结合所有类标签上的预测分数）。本工作中，我们引入排序值域和（SoRR）作为构造学习目标的通用方法。排序值域是一组实数排序值中的连续序列。SoRR 的最小化通过凸差算法（DCA）求解。我们探索了 SoRR 最小化框架在机器学习中的两种应用，即用于二分类的 AoRR 聚合损失与用于多标签/多分类的 TKML 个体损失。我们的实证结果凸显了所提优化框架的有效性，并借助合成与真实数据集证明了所提损失的适用性。
引用
@article{arxiv.2010.01741,
title = {Learning by Minimizing the Sum of Ranked Range},
author = {Shu Hu and Yiming Ying and Xin Wang and Siwei Lyu},
journal= {arXiv preprint arXiv:2010.01741},
year = {2020}
}
备注
Accepted by Thirty-fourth Conference on Neural Information Processing Systems (NeurIPS 2020)