一种用于函数学习与外推的自监督框架

理解智能体如何在高维、自然环境中学习泛化——尤其是外推——对于机器学习和生物智能体研究而言仍是一项挑战。对此的一种方法是使用函数学习范式,其可精确描述人们对平滑标量函数泛化的经验模式。然而,迄今为止,此类工作未能成功识别出能够习得通用目的表示的机制,而函数学习正可基于这些表示来展现人类经验研究中观察到的泛化模式。在此,我们提出一个框架,说明学习体如何习得此类表示,进而以少样本方式支持泛化——尤其是外推。受经典视觉处理理论的启发,我们构建了一个自监督编码器,其实现了在拓扑畸变下不变性的基本归纳偏置。我们表明,在包括外推在内的若干下游函数学习任务中,所得表示优于其他无监督时间序列学习模型的表示。