通过反事实正则化获得潜在事件预测编码
机器学习
2021-05-14 v1
摘要
任何智能系统的一个关键挑战是从连续数据流中推断结构。事件预测认知理论表明，大脑将感觉运动信息分割为紧凑的事件编码，用于预期和解释环境动态。在此，我们引入一种使用新颖反事实正则化形式的惊喜门控循环神经网络（SUGAR）。我们在层次化序列预测任务上测试该模型，其中序列由交替的隐藏图结构生成。我们的模型学会将任务的时间动态压缩为潜在的事件预测编码，并在给定关于它们的含噪隐藏信号时于正确时刻预期事件转移。反事实正则化项的加入确保了从一个潜在编码到下一个的流畅转移，由此产生的潜在编码展现出组合性质。所实现的机制在其他领域提供了一系列有用应用，包括层次化推理、规划与决策制定。
引用
@article{arxiv.2105.05894,
title = {Latent Event-Predictive Encodings through Counterfactual Regularization},
author = {Dania Humaidan and Sebastian Otte and Christian Gumbsch and Charley Wu and Martin V. Butz},
journal= {arXiv preprint arXiv:2105.05894},
year = {2021}
}
备注
Accepted at CogSci2021