FiLM模型有多聪明，又能有多聪明？
计算与语言
2018-09-11 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
FiLM模型在诊断性CLEVR数据集上取得了近乎完美的表现，并且与其他此类模型的不同之处在于其具有相对简单且易于迁移的架构。在本文中，我们更详细地研究了FiLM学习各种语言结构的能力。我们的主要结果表明：（a）除非常简单的情况外，FiLM无法立即学习关系语句；（b）在更广泛实例集上训练以及对更简单实例类型进行预训练有助于缓解这些学习困难；（c）混合训练不如预训练稳健，并且对数据集的组合结构非常敏感。总体而言，我们的结果表明，大型包罗万象的数据集方法和“数据的有效性”范式可能存在根本性局限。
引用
@article{arxiv.1809.03044,
title = {How clever is the FiLM model, and how clever can it be?},
author = {Alexander Kuhnle and Huiyuan Xie and Ann Copestake},
journal= {arXiv preprint arXiv:1809.03044},
year = {2018}
}