HyperTendril：用于深度神经网络用户驱动超参数优化的可视分析系统
人机交互
2020-10-13 v2 机器学习
摘要
为缓解手动调优深度神经网络超参数的痛苦，自动化机器学习(AutoML)方法已被开发出来，用于在大型组合搜索空间中搜索最优超参数集合。然而，AutoML方法的搜索结果高度依赖于初始配置，使得找到合适配置成为一项非平凡任务。因此，通过可视分析途径进行人工干预在此任务中蕴含巨大潜力。为此，我们提出HyperTendril，一个基于网页的可视分析系统，支持在模型无关环境中用户驱动的超参数调优过程。HyperTendril采取一种新颖方法，通过迭代、交互式的调优流程有效引导超参数优化，使用户能基于自身从给定结果中获得的见解来精炼搜索空间与AutoML方法的配置。使用HyperTendril，用户可洞察各类超参数搜索算法的复杂行为并诊断其配置。此外，HyperTendril支持变量重要性分析，以基于不同超参数相对重要性及其交互效应的分析来帮助用户精炼搜索空间。我们给出了评估，通过在专业工业环境中部署系统，并基于交互日志与深度访谈的纵向用户研究，展示了HyperTendril如何帮助用户引导其调优过程。
引用
@article{arxiv.2009.02078,
title = {HyperTendril: Visual Analytics for User-Driven Hyperparameter Optimization of Deep Neural Networks},
author = {Heungseok Park and Yoonsoo Nam and Ji-Hoon Kim and Jaegul Choo},
journal= {arXiv preprint arXiv:2009.02078},
year = {2020}
}
备注
Will be presented at IEEE VAST 2020 and published in IEEE Transactions on Visualization and Computer Graphics