神经智能体迭代学习中数值概念组合语言的涌现
计算与语言
2019-10-14 v1 人工智能
机器学习
摘要
自首次引入以来,计算机模拟已成为演化语言学中日益重要的工具。近来,随着深度学习技术的发展,基于语境的语言学习研究也开始聚焦于在无预定义基本语言知识的情况下促成组合语言的涌现。在本工作中,我们探索多智能体通信系统中数值概念的组合语言的涌现。我们证明,编码数值概念的组合语言可通过深度神经网络智能体群体中的迭代学习而涌现。然而,语言特性极大依赖于给予智能体的输入表示。我们发现,组合语言仅在相较于给定输入表示下其他非退化语言,智能体完全学会它们所需迭代更少时才会涌现。
引用
@article{arxiv.1910.05291,
title = {The Emergence of Compositional Languages for Numeric Concepts Through Iterated Learning in Neural Agents},
author = {Shangmin Guo and Yi Ren and Serhii Havrylov and Stella Frank and Ivan Titov and Kenny Smith},
journal= {arXiv preprint arXiv:1910.05291},
year = {2019}
}