通过视觉基础对抗语言漂移

涌现的多智能体通信协议与自然语言大相径庭，且不易被人类解释。我们发现，最初经过预训练以产生自然语言的智能体也可能经历有害的语言漂移：当在基于目标的任务中使用非语言奖励（例如某个标量成功指标）时，通信协议可能轻易且彻底地偏离自然语言。我们将翻译重新转化为多智能体通信博弈，并检验了辅助训练约束在缓解语言漂移方面的有效性。我们表明，句法（语言模型似然）和语义（视觉基础）约束的结合提供了最佳的通信性能，使预训练智能体能够在学习准确传达预期含义的同时保留英语句法。