利用查询与反例从循环神经网络中提取自动机
机器学习
2020-02-28 v4 形式语言与自动机理论
摘要
我们提出了一种新颖算法，利用精确学习与抽象来提取描述给定已训练 RNN 状态动态的确定性有限自动机。我们以 Angluin 的 L* 算法作为学习器，以已训练的 RNN 作为预言机来实现此目的。我们的技术能从已训练的 RNN 中高效提取精确的自动机，即使状态向量很大且需要精细区分时也是如此。
引用
@article{arxiv.1711.09576,
title = {Extracting Automata from Recurrent Neural Networks Using Queries and Counterexamples},
author = {Gail Weiss and Yoav Goldberg and Eran Yahav},
journal= {arXiv preprint arXiv:1711.09576},
year = {2020}
}
备注
Accepted in ICML 2018, (Feb 2020: added link to code, at https://github.com/tech-srl/lstar_extraction )