基于随机序的学习
机器学习
2022-11-11 v2 机器学习
概率论
统计理论
统计理论
摘要
高维分布的学习通常通过显式似然建模或通过最小化积分概率度量（IPMs）的隐式建模完成。本文中，我们将该学习范式扩展至随机序，即概率测度间的凸序或 Choquet 序。为此，利用凸序与最优传输间的关系，我们引入概率测度间的 Choquet-Toland 距离，其可作为 IPMs 的即插即用替代。我们还引入变分优势准则（VDC）以学习带优势约束的概率测度，该约束编码所学测度与已知基线间期望的随机序。我们分析这两个量并指出它们受维数灾难影响，进而通过输入凸 maxout 网络（ICMNs）提出代理，其具有参数化收敛速率。我们提供带随机序学习的极小极大框架，并在合成与高维图像生成上实验验证，取得有前景的结果。最后，我们的 ICMNs 凸函数类及其导出的 Rademacher 复杂度除在凸序中的应用外也具有独立意义。
引用
@article{arxiv.2205.13684,
title = {Learning with Stochastic Orders},
author = {Carles Domingo-Enrich and Yair Schiff and Youssef Mroueh},
journal= {arXiv preprint arXiv:2205.13684},
year = {2022}
}
备注
Code available at https://github.com/yair-schiff/stochastic-orders-ICMN