语义空间中涌现的离散通信
机器学习
2021-11-08 v3 计算与语言
多智能体系统
机器人学
摘要
在强化学习设定中训练的神经网络智能体可以学习通过离散令牌相互通信，作为团队完成单个智能体无法完成的任务。然而，当前使用 one-hot 向量作为离散通信令牌的标准阻碍了智能体获得通信中更可取的方面，如零样本理解。受自然语言处理中词嵌入技术启发，我们提出使智能体能够通过源自学习的连续空间的离散令牌进行通信的神经网络架构。我们在决策论框架中表明，我们的技术在广泛情景下优化通信，而 one-hot 令牌仅在限制性假设下最优。在自博弈实验中，我们验证训练后的智能体学会以语义有意义的方式聚类令牌，使其能在其他技术失效的噪声环境中通信。最后，我们证明使用我们方法的智能体既能有效回应新的人类通信，人类也能理解无标注的涌现智能体通信，优于使用 one-hot 通信。
引用
@article{arxiv.2108.01828,
title = {Emergent Discrete Communication in Semantic Spaces},
author = {Mycal Tucker and Huao Li and Siddharth Agrawal and Dana Hughes and Katia Sycara and Michael Lewis and Julie Shah},
journal= {arXiv preprint arXiv:2108.01828},
year = {2021}
}