用于记忆增强神经网络自适应控制器的改进注意力模型
系统与控制
2020-03-23 v7 系统与控制
摘要
我们在近期工作中引入了一种工作记忆增强的自适应控制器。该控制器使用注意力来从工作记忆读取和写入。注意力使控制器能够读取相关信息，并根据相关性更新其工作记忆。检索到的信息用于修改控制器计算出的最终控制输入。我们表明这种修改加快了学习速度。在上述工作中，我们为自适应控制器使用了软注意力机制。使用软注意力或硬注意力机制的控制器受到限制，因为它们可能遗忘信息，或在所读取信息相关性降低时无法转移注意力。我们提出了一种包含（i）硬注意力机制以及（ii）注意力重分配机制的注意力机制。注意力重分配使控制器能在所读取位置的相关性减弱时将注意力重新分配到不同位置。重分配还确保在注意力转移前存储于记忆中的信息得以保留，而这在软注意力和硬注意力机制中均可能丢失。我们通过对两连杆和三连杆机械臂系统各种场景的详细仿真，说明了所提注意力机制的有效性。
引用
@article{arxiv.1910.01189,
title = {Improved Attention Models for Memory Augmented Neural Network Adaptive Controllers},
author = {Deepan Muthirayan and Scott Nivison and Pramod P. Khargonekar},
journal= {arXiv preprint arXiv:1910.01189},
year = {2020}
}