基于神经注意力过程的高性价比交互式注意力学习
机器学习
2020-06-11 v1 人机交互
机器学习
摘要
我们提出了一种新颖的交互式学习框架，称之为交互式注意力学习（IAL），其中人类监督者通过交互式地操纵所分配的注意力，以更新注意力生成网络来纠正模型的行为。然而，由于人类标注的稀缺性，此类模型易于过拟合，并且需要代价高昂的重新训练。此外，人类标注者几乎不可能检查大量实例与特征上的注意力。我们通过提出一种样本高效的注意力机制以及针对实例与特征的高性价比重排序算法来应对这些挑战。首先，我们提出神经注意力过程（NAP），它是一种注意力生成器，能够通过融入新的注意力层级监督来更新其行为，而无需任何重新训练。其次，我们提出一种算法，依据实例与特征的负面影响对其进行优先级排序，使得模型能以最少的人类反馈获得大幅改进。我们在来自多个领域（医疗、房地产与计算机视觉）的多种时间序列数据集上验证了 IAL，相较于采用常规注意力机制或缺少高性价比重排序的基线，它以显著更少的重新训练与人类-模型交互代价取得了明显更优的性能。
引用
@article{arxiv.2006.05419,
title = {Cost-effective Interactive Attention Learning with Neural Attention Processes},
author = {Jay Heo and Junhyeon Park and Hyewon Jeong and Kwang Joon Kim and Juho Lee and Eunho Yang and Sung Ju Hwang},
journal= {arXiv preprint arXiv:2006.05419},
year = {2020}
}