SimSiam 命名游戏：一种用于表征学习与涌现通信的统一方法
计算与语言
2026-04-09 v2
摘要
涌现通信（EmCom）研究智能体如何在没有预定义语言的情况下，通过交互发展出符号通信。最近的框架，如 Metropolis–Hastings 命名游戏（MHNG），将 EmCom 形式化为在联合注意下通过交互协商共享外部表征的学习过程，无需明确的成功或奖励反馈。然而，MHNG 依赖于基于采样的更新，在高维感知空间中面临高拒绝率，使得学习过程对于复杂视觉数据集而言样本效率低下。在这项工作中，我们提出了 SimSiam 命名游戏（SSNG），这是一个无反馈的 EmCom 框架，它用自主智能体之间对称的、自监督的表征对齐目标取代了基于采样的更新。基于自监督学习的变分推断概率解释，SSNG 将符号涌现形式化为由消息交换介导的智能体潜在表征之间的对齐过程。为了实现端到端的基于梯度的优化，离散符号消息通过 Gumbel–Softmax 松弛来学习，在保持可微性的同时保留了通信的离散性质。在 CIFAR-10 和 ImageNet-100 上的实验表明，SSNG 学习到的涌现消息所实现的线性探针分类准确率，显著高于指称游戏、重建游戏和 MHNG 所产生的结果。这些结果表明，自监督表征对齐为多智能体系统中的无反馈 EmCom 提供了一种有效的机制。
引用
@article{arxiv.2410.21803,
title = {SimSiam Naming Game: A Unified Approach for Representation Learning and Emergent Communication},
author = {Nguyen Le Hoang and Tadahiro Taniguchi and Fang Tianwei and Akira Taniguchi},
journal= {arXiv preprint arXiv:2410.21803},
year = {2026}
}