Neuro-Visualizer：一种基于自编码器的损失景观可视化方法
机器学习
2023-09-27 v1 人机交互
摘要
近年来，可视化神经网络损失景观的兴趣日益增长。主成分分析等线性景观可视化方法因其直观性而广受使用，有助于研究者研究神经网络及其训练过程。然而，这些线性方法由于缺乏灵活性且在表征高维景观时保真度低而存在局限与缺陷。本文提出一种名为 Neuro-Visualizer 的基于自编码器的非线性景观可视化新方法，其解决了上述不足并提供了关于神经网络损失景观的有用洞见。为展示其潜力，我们在知识引导机器学习（KGML）的两个独立应用中的多种问题上进行了实验。我们的结果表明，Neuro-Visualizer 优于其他线性与非线性基线，并有助于证实、有时挑战机器学习界提出的论断。本文实验所用全部代码与数据可见于匿名链接 https://anonymous.4open.science/r/NeuroVisualizer-FDD6
引用
@article{arxiv.2309.14601,
title = {Neuro-Visualizer: An Auto-encoder-based Loss Landscape Visualization Method},
author = {Mohannad Elhamod and Anuj Karpatne},
journal= {arXiv preprint arXiv:2309.14601},
year = {2023}
}