中文

NAS-Navigator:用于可解释一次性深度神经网络合成的视觉引导工具

机器学习 2022-10-19 v3 计算机视觉与模式识别 人机交互 机器学习

摘要

深度学习领域的近期进展展示了超大型神经网络在若干应用中的有效性。然而,随着这些深度神经网络规模持续增长,配置其众多参数以获得良好结果变得愈发困难。目前,分析人员必须尝试许多不同的配置与参数设置,这既耗费人力又耗时。另一方面,若无人类专家的领域知识,全自动神经网络架构搜索技术的能力有限。为应对该问题,我们基于一次性架构搜索技术,将神经网络架构优化任务表述为图空间探索。在该方法中,所有候选架构的超图被一次性训练,最优神经网络被识别为一个子图。本文提出一个框架,使分析人员能够有效构建解子图空间,并通过注入其领域知识来引导网络搜索。从由基础神经网络组件组成的网络架构空间出发,分析人员借助我们的一次性搜索方案可有效选择最有前景的组件。以迭代方式应用该技术,可使分析人员针对给定应用收敛到性能最佳的神经网络架构。在探索过程中,分析人员可利用其领域知识,并辅以搜索空间散点图可视化提供的线索,来编辑不同组件并引导搜索以实现更快收敛。我们与若干深度学习研究人员协作设计了界面,并通过用户研究和两个案例研究评估了其最终有效性。

关键词

引用

@article{arxiv.2009.13008,
  title  = {NAS-Navigator: Visual Steering for Explainable One-Shot Deep Neural Network Synthesis},
  author = {Anjul Tyagi and Cong Xie and Klaus Mueller},
  journal= {arXiv preprint arXiv:2009.13008},
  year   = {2022}
}

备注

Pre-print of the accepted paper at IEEE Transactions on Visualization and Computer Graphics, 2022