基于概率空间中梯度流的数据集动力学
机器学习
2021-06-17 v2 机器学习
摘要
从生成式建模到域适应,各种机器学习任务都围绕数据集变换与操作的概念展开。尽管存在多种变换无标签数据集的方法,但对于有标签(例如分类)数据集的系统性方法仍然缺失。在本工作中,我们提出了一种新颖的数据集变换框架,将其表述为对数据生成联合概率分布的优化。我们通过概率空间中的 Wasserstein 梯度流来处理这类问题,并针对一类灵活但性质良好的目标函数推导了实用且高效的基于粒子的方法。通过多种实验,我们表明该框架可用于对分类数据集施加约束、使其适应迁移学习,或重新利用固定或黑盒模型以高准确度对先前未见过的数据集进行分类。
引用
@article{arxiv.2010.12760,
title = {Dataset Dynamics via Gradient Flows in Probability Space},
author = {David Alvarez-Melis and Nicolò Fusi},
journal= {arXiv preprint arXiv:2010.12760},
year = {2021}
}
备注
ICML 2021