学习外推：一种直推式方法
机器学习
2023-04-28 v1
摘要
机器学习系统，尤其是过参数化深度神经网络，能够泛化到从与训练数据相同分布中抽取的新测试样本。然而，当在支持集之外的测试点上评估时，它们表现不佳。本工作中，我们致力于开发在保留过参数化函数逼近器能力的同时，尽可能实现对支持集外测试点外推的机器学习系统。这是通过注意到在某些条件下，“直推式（transductive）”重参数化可将支持集外推问题转化为支持集内组合泛化问题来实现的。我们提出了一种基于双线性嵌入的简单策略来实现此类组合泛化，从而在某些条件下解决支持集外推问题。我们实例化了一个简单、实用的算法，适用于各种监督学习和模仿学习任务。
引用
@article{arxiv.2304.14329,
title = {Learning to Extrapolate: A Transductive Approach},
author = {Aviv Netanyahu and Abhishek Gupta and Max Simchowitz and Kaiqing Zhang and Pulkit Agrawal},
journal= {arXiv preprint arXiv:2304.14329},
year = {2023}
}