点云神经网络的高效早停方法
计算机视觉与模式识别
2022-10-03 v1 人工智能
机器学习
摘要
早停技术可用于降低时间开销，然而目前早停技术的最终目标主要与精度提升或神经网络在未见数据上更好泛化的能力相关，而非与其结构规模或复杂度直接挂钩，亦非直接关乎效率。时间效率是神经网络中的关键因素，尤其在处理 3D 点云数据分割时，不仅因为神经网络本身计算代价高昂，也因为点云数据量大且含噪声，使学习过程成本更高。本文提出一种基于基础数学的新早停技术，旨在改善处理 3D 点云的神经网络在学习效率与精度之间的权衡。结果表明，在四种常用且广泛使用的 3D 点云分割神经网络中采用我们的早停技术，模型训练时间效率大幅提升，效率增益值最高达 94%，同时模型仅训练若干 epoch 即取得与训练 200 epoch 相近的分割精度指标值。此外，我们的方案在分割精度上优于四种常规早停方法，表明其作为一种有前景的创新点云分割早停技术。
引用
@article{arxiv.2209.15308,
title = {Effective Early Stopping of Point Cloud Neural Networks},
author = {Thanasis Zoumpekas and Maria Salamó and Anna Puig},
journal= {arXiv preprint arXiv:2209.15308},
year = {2022}
}