论结构化预测中的认证泛化
机器学习
2023-10-17 v2 机器学习
摘要
在结构化预测中，目标对象具有丰富的内部结构，其不可分解为独立分量且违背常见的独立同分布假设。这一挑战在图像分割或场景图生成等应用中通过指数级庞大的输出空间显现出来。我们提出一种新颖的结构化预测 PAC-Bayesian 风险界，其中泛化速率不仅随结构化样本数量缩放，也随其规模缩放。该底层假设与生成模型持续研究相符，即数据由可分解参考测度的 Knothe-Rosenblatt 重排生成。这允许将随机输出变量间的结构显式提炼为 Wasserstein 依赖矩阵。我们的工作朝着在结构化预测这一挑战性设定下利用强大生成模型为判别性下游任务建立泛化界，迈出了初步一步。
引用
@article{arxiv.2306.09112,
title = {On Certified Generalization in Structured Prediction},
author = {Bastian Boll and Christoph Schnörr},
journal= {arXiv preprint arXiv:2306.09112},
year = {2023}
}