互斥性作为深度神经网络的挑战
计算与语言
2020-10-23 v3 机器学习
摘要
强烈的归纳偏置使儿童能够以快速且可适应的方式学习。儿童利用互斥性(ME)偏置来帮助消除词与指称对象之间映射的歧义，即假设若一个对象已有一个标签，则它不需要另一个。在本文中，我们研究标准神经架构是否具有ME偏置，证明它们缺乏这一学习假设。此外，我们表明它们的归纳偏置与分类和翻译的终身学习表述匹配不佳。我们论证了设计通过互斥性进行推理的神经网络具有充分理由，这仍是一个开放挑战。
引用
@article{arxiv.1906.10197,
title = {Mutual exclusivity as a challenge for deep neural networks},
author = {Kanishk Gandhi and Brenden M. Lake},
journal= {arXiv preprint arXiv:1906.10197},
year = {2020}
}
备注
Published in Advances in Neural Information Processing Systems (NeurIPS) 33