通过分布匹配泛化至未见域
机器学习
2024-10-30 v6 机器学习
摘要
监督学习的结果通常依赖于独立同分布数据的假设。不幸的是，这些假设在实践中常被违背。在这项工作中，我们通过关注域泛化来解决此类问题：一种形式化设定，其中测试时的数据生成过程可能产生来自前所未见域（分布）的样本。我们的工作依赖于以下引理：通过最小化一组给定域中所有两两之间的某种差异度量，我们也最小化任意域混合两两之间的差异。利用该结果，我们推导了适用于我们设定的泛化界。然后我们表明，通过在以下空间中表示数据可实现在未见域上的低风险：（i）训练分布不可区分，且（ii）保留手头任务的相关信息。最小化我们界中的各项得到一个对抗式公式，其估计并最小化两两差异。我们在标准域泛化基准上验证了所提策略，优于若干近期提出的方法。值得注意的是，我们处理了一个真实世界应用，其中底层数据来自不同受试者的多通道脑电图时间序列，每个受试者被视为一个独立域。
引用
@article{arxiv.1911.00804,
title = {Generalizing to unseen domains via distribution matching},
author = {Isabela Albuquerque and João Monteiro and Mohammad Darvishi and Tiago H. Falk and Ioannis Mitliagkas},
journal= {arXiv preprint arXiv:1911.00804},
year = {2024}
}
备注
This work has been submitted to the IEEE for possible publication