推理过程中的丢弃法作为图像描述网络中神经退行性变模型
计算与语言
2018-08-14 v1
摘要
我们复现了Vinyals等人（2015）图像描述架构的一个变体，然后在推理模式下引入丢弃法（dropout）以模拟阿尔茨海默病（AD）和韦尼克失语症（WA）等神经退行性疾病的影响。我们通过测量词频分布的KL散度及其他语言度量来评估丢弃法对语言生成的影响。我们发现，在推理中使用0.4的中等丢弃率时，生成的句子最接近训练语料的词频分布。
引用
@article{arxiv.1808.03747,
title = {Dropout during inference as a model for neurological degeneration in an image captioning network},
author = {Bai Li and Ran Zhang and Frank Rudzicz},
journal= {arXiv preprint arXiv:1808.03747},
year = {2018}
}