中文

一种用于视觉主动搜索的部分监督强化学习框架

人工智能 2023-11-09 v2 计算机视觉与模式识别

摘要

视觉主动搜索(VAS)已被提出作为一种建模框架,其中利用视觉线索引导探索,目标是在大型地理空间区域中识别感兴趣区域。其潜在应用包括识别稀有野生动物偷猎活动的热点、搜索与救援场景、识别武器、毒品或人口非法贩运等许多其他方面。VAS 的最先进方法包括深度强化学习(DRL)的应用(其产生端到端的搜索策略)以及传统主动搜索(其将预测与定制算法方法相结合)。尽管 DRL 框架已被证明在此类领域中大幅优于传统主动搜索,但其端到端的性质并未充分利用在训练期间或实际搜索期间获得的监督信息,若搜索任务与训练分布中的任务差异显著,则这是一个重大局限。我们提出一种方法,通过将对搜索策略分解为预测模块(基于任务嵌入和搜索历史产生感兴趣区域的地理空间分布)和搜索模块(将预测与搜索历史作为输入并输出搜索分布),从而结合 DRL 与传统主动搜索的优势。我们开发了一种新颖的元学习方法,用于联合学习所得到的组合策略,该策略能有效利用在训练时和决策时获得的监督信息。我们的大量实验表明,所提出的表示与元学习框架在多个问题领域的视觉主动搜索中显著优于最先进水平。

关键词

引用

@article{arxiv.2310.09689,
  title  = {A Partially Supervised Reinforcement Learning Framework for Visual Active Search},
  author = {Anindya Sarkar and Nathan Jacobs and Yevgeniy Vorobeychik},
  journal= {arXiv preprint arXiv:2310.09689},
  year   = {2023}
}

备注

26 pages, 20 figures, Accepted to NeurIPS 2023, Code is available at https://github.com/anindyasarkarIITH/PSRL_VAS/