知止而有定：输出长度规范符合性的评估与验证
机器学习
2019-04-30 v1 人工智能
机器学习
摘要
Sequence-to-Sequence 与 Image-to-Sequence 等模型广泛应用于现实任务。尽管这些神经架构生成变长输出的能力使它们在机器翻译与图像描述等问题上极为有效，但也使它们易受一类失败的影响，即模型产生不合期望长度的输出。该行为可能导致严重后果，例如增加计算用量，并引发下游模块因期望特定长度输出而产生故障。出于更好地理解这些模型失败的需求，本文提出并研究了新颖的输出长度调制问题，并作出两项关键技术贡献。首先，为评估模型鲁棒性，我们开发了一种易于计算的可微代理目标，可与基于梯度的算法配合使用以寻找拉长输出的输入。其次且更重要的是，我们开发了一种验证方法，可形式化验证网络是否总是产生某一长度以内的输出。在机器翻译与图像描述上的实验表明，我们的拉长输出方法可产生比输入长 50 倍的输出，而我们的验证方法可在给定模型与输入域时证明输出长度低于某一大小。
引用
@article{arxiv.1904.12004,
title = {Knowing When to Stop: Evaluation and Verification of Conformity to Output-size Specifications},
author = {Chenglong Wang and Rudy Bunel and Krishnamurthy Dvijotham and Po-Sen Huang and Edward Grefenstette and Pushmeet Kohli},
journal= {arXiv preprint arXiv:1904.12004},
year = {2019}
}