基于深度生成模型的Metropolis-Hastings命名博弈中的涌现通信
人工智能
2023-01-18 v2 计算与语言
摘要
关于符号涌现系统的建构性研究致力于探究能够更好地解释人类语言演化、符号系统创建以及内部表征构建的计算模型。本研究提出了一种基于概率生成模型(PGM)而非基于深度强化学习的判别模型的涌现通信新模型。我们通过推广先前提出的模型定义了Metropolis-Hastings(MH)命名博弈。它与许多涌现通信研究中所假设的带有显式反馈的指代博弈不同,而是一种基于联合注意且无显式反馈的博弈。从数学上证明,MH命名博弈是一种针对整合型PGM的MH算法,该PGM结合了参与命名博弈的两个智能体。从这一视角看,符号涌现被视为去中心化贝叶斯推断,而符号交际被视为人际跨模态推断。这一概念引出了关于语言演化以及广义上符号涌现的集体预测编码假说。我们还提出了inter-Gaussian混合模型(GMM)+变分自编码器(VAE),一种基于MH命名博弈的用于涌现通信的深度生成模型。该模型已在MNIST和Fruits 360数据集上得到验证。实验结果表明,类别由智能体观察到的真实图像形成,且通过MH命名博弈成功利用双方智能体的观测,符号在智能体间被正确共享。此外,学者们验证了视觉图像可由智能体发出的符号回忆出来。值得注意的是,无监督与奖励反馈的涌现通信提升了智能体无监督表征学习的性能。
引用
@article{arxiv.2205.12392,
title = {Emergent Communication through Metropolis-Hastings Naming Game with Deep Generative Models},
author = {Tadahiro Taniguchi and Yuto Yoshida and Akira Taniguchi and Yoshinobu Hagiwara},
journal= {arXiv preprint arXiv:2205.12392},
year = {2023}
}
备注
23 pages, 12 figures