可复现性与几何本征维度:对图神经网络研究的一项调查
机器学习
2024-03-20 v2 人工智能
摘要
近年来,机器学习研究中实证证据的复现与可复现性困难已成为一个突出议题。确保机器学习研究结果的可靠性与可信性需要可复现性,即使用相同的代码和数据验证研究发现的可靠性。这有助于促进开放、可获取的研究、稳健的实验工作流以及新发现的快速整合。评估研究出版物在多大程度上支持可复现性的这些不同方面,是本工作的目标之一。为此,我们引入了一个机器学习可复现性本体论,并将其应用于图神经网络方法。在此基础上,我们转向机器学习中的另一个关键挑战,即维度灾难,它在数据收集、表示和分析中带来困难,使得寻找代表性数据更加困难,并阻碍训练和推理过程。利用与之紧密相关的几何本征维度概念,我们研究了所使用的机器学习模型在多大程度上受其训练数据集的本征维度影响。
引用
@article{arxiv.2403.08438,
title = {Reproducibility and Geometric Intrinsic Dimensionality: An Investigation on Graph Neural Network Research},
author = {Tobias Hille and Maximilian Stubbemann and Tom Hanika},
journal= {arXiv preprint arXiv:2403.08438},
year = {2024}
}
备注
39 pages, 9 figures