面向少样本学习中硬注意力的语言引导强化学习
人工智能
2025-04-22 v3 机器学习
摘要
注意力机制通过识别输入数据的关键部分，在增强学习模型方面已展现出显著潜力，尤其在训练样本有限的场景中。受人类感知启发，我们提出聚焦于本质数据片段而非整个数据集，可提升学习模型的准确性与可靠性。然而，识别这些关键数据片段（即“硬注意力发现”）具有挑战性，尤其在少样本学习中，由于训练数据稀缺及模型参数复杂所致。为此，我们引入 LaHA，一种利用语言引导深度强化学习来识别并利用信息性数据区域的新颖框架，从而同时提升可解释性与性能。在基准数据集上的大量实验验证了 LaHA 的有效性。
引用
@article{arxiv.2310.07800,
title = {Language-Guided Reinforcement Learning for Hard Attention in Few-Shot Learning},
author = {Bahareh Nikpour and Narges Armanfard},
journal= {arXiv preprint arXiv:2310.07800},
year = {2025}
}