由理解动物交流启发的无监督翻译理论
计算与语言
2023-11-07 v2 机器学习
摘要
神经网络能够翻译语言——在某些情况下甚至能在两种语言之间几乎没有或没有平行翻译可用时进行翻译,即所谓的无监督机器翻译(UMT)。鉴于这一进展,探究机器学习工具最终能否实现对动物交流的理解,特别是高度智能动物的交流,是引人入胜的。我们提出了一个理论框架,用于分析在无平行翻译可用、且不能假设源语料和目标语料涉及相关主题领域或具有相似语言结构时的UMT。我们用两个程式化语言模型例示该理论,我们的框架为它们提供了必要样本复杂度的界限;这些界限在合成数据上得到了形式化证明和实验验证。这些界限表明,错误率与语言复杂度和共同背景的数量成反比。这表明,如果交流系统足够复杂,动物交流的无监督翻译可能是可行的。
引用
@article{arxiv.2211.11081,
title = {A Theory of Unsupervised Translation Motivated by Understanding Animal Communication},
author = {Shafi Goldwasser and David F. Gruber and Adam Tauman Kalai and Orr Paradise},
journal= {arXiv preprint arXiv:2211.11081},
year = {2023}
}