PROPS：黑盒序列模型的概率个性化
机器学习
2019-03-07 v1 机器学习
摘要
我们提出 PROPS，一种用于序列数据的轻量级迁移学习机制。PROPS 在一个或多个任意复杂、预训练的黑盒模型（如循环神经网络）的预测周围学习概率扰动。该技术将黑盒预测函数固定为隐马尔可夫模型（HMM）的“源节点”，并使用其余节点作为“扰动节点”来学习围绕这些预测的定制化扰动。在本文中，我们描述了 PROPS 模型，提供了其参数在线学习算法，并证明了该估计的一致性。我们还在个性化语言建模背景下探索了 PROPS 的效用。具体而言，我们通过在包含 250 万篇文章（约 66 亿词）的整个维基百科语料库上训练 LSTM 来构建基线语言模型，然后使用 PROPS 对唐纳德·J·特朗普总统的推文提供轻量级定制化，形成个性化语言模型。我们仅在额外 2000 词后就实现了良好的定制化，并发现 PROPS 模型作为完全概率模型，能揭示特朗普总统的言论何时偏离维基百科语料库中的通用模式。PROPS 训练算法及实验可复现的 Python 代码可在 https://github.com/cylance/perturbed-sequence-model 获取。
引用
@article{arxiv.1903.02013,
title = {PROPS: Probabilistic personalization of black-box sequence models},
author = {Michael Thomas Wojnowicz and Xuan Zhao},
journal= {arXiv preprint arXiv:1903.02013},
year = {2019}
}