基于直通Gumbel-Softmax估计器的视觉指称博弈中（涌现的）系统性泛化与组合性

当两个（或更多）智能体进行非视觉指称博弈时，人工语言中组合性的驱动因素此前已使用基于REINFORCE算法与（神经）迭代学习模型的方法进行了研究。随着近来直通Gumbel-Softmax（ST-GS）方法的引入，本文探究该领域中迄今已识别的组合性驱动因素在ST-GS语境下的适用程度，以及在进行视觉指称博弈时它们在多大程度上转化为（涌现的）系统性泛化能力。组合性与涌现语言的泛化能力通过地形相似度与零样本组合测试进行评估。首先，我们提供证据表明，在处理视觉刺激时，训练-测试划分策略显著影响零样本组合测试，而在处理符号刺激时则无此影响。其次，经验证据显示，使用小批量尺寸与过完备通信信道的ST-GS方法可改善涌现语言中的组合性。然而，尽管在符号刺激下表现稳健，批量尺寸的影响在处理视觉刺激时并不那么明确。我们的结果还显示，并非所有过完备通信信道都是等同的。事实上，虽然增加最大句子长度被发现有利于进一步提升组合性与泛化能力，增加词汇量则被发现是有害的。最后，在涉及视觉刺激的判别性指称博弈语境中，观察到训练时语言组合性与智能体泛化能力之间缺乏相关性。这与该领域此前使用符号刺激的生成变体所做的观察类似。