面向异构数据集的个性化字典学习
机器学习
2023-05-25 v1 计算机视觉与模式识别
摘要
我们引入了一个相关但具有挑战性的问题,称为个性化字典学习(PerDL),其目标是从具有某些共性的异构数据集中学习稀疏线性表示。在 PerDL 中,我们将每个数据集的共享特征与独有特征建模为全局字典与局部字典。PerDL 的挑战不仅继承自经典字典学习(DL),还由于共享与独有特征的未知性质而产生。本文严格地表述了该问题,并给出了全局与局部字典可被可证明地解耦的条件。在这些条件下,我们提供了一种称为个性化匹配与平均(PerMA)的元算法,可从异构数据集中恢复全局与局部字典。PerMA 高效性极高;在适当条件下以线性速率收敛到真实值。此外,它自动从强学习器借用能力以改进弱学习器的预测。作为提取全局与局部字典的通用框架,我们展示了 PerDL 在不同学习任务中的应用,如不平衡数据集训练与视频监控。
引用
@article{arxiv.2305.15311,
title = {Personalized Dictionary Learning for Heterogeneous Datasets},
author = {Geyu Liang and Naichen Shi and Raed Al Kontar and Salar Fattahi},
journal= {arXiv preprint arXiv:2305.15311},
year = {2023}
}