TorchSISSO: 基于 PyTorch 的 Sure Independence Screening 和 Sparsifying Operator 实现,以提高模型发现的效率与可解释性
机器学习
2024-12-11 v2
摘要
符号回归 (SR) 是一种强大的机器学习方法,搜索代数模型的结构和参数,提供对复杂数据具有可解释且紧凑的表示。与传统回归方法不同,SR 探索逐渐复杂的特征空间,这可以从小数据集中发现能够良好泛化的简单模型。在 SR 算法中,Sure Independence Screening and Sparsifying Operator (SISSO) 在自然科学领域尤为有效,帮助重新发现基本物理定律,以及发现新的可解释方程用于材料属性建模。然而,其广泛采用受限于性能效率低下以及其 FORTRAN 实现带来的挑战,尤其是在现代计算环境中。在本工作中,我们引入 TorchSISSO,一个基于 PyTorch 框架构建的原生 Python 实现。TorchSISSO 利用 GPU 加速、易于集成和可扩展性,相较于原始实现在速度和准确性上实现了显著提升。我们展示了 TorchSISSO 在各种任务上的表现匹配或超过原始 SISSO,同时大大缩短了计算时间,并提高了可访问性,以适应更广泛的科学应用。
引用
@article{arxiv.2410.01752,
title = {TorchSISSO: A PyTorch-Based Implementation of the Sure Independence Screening and Sparsifying Operator for Efficient and Interpretable Model Discovery},
author = {Madhav Muthyala and Farshud Sorourifar and Joel A. Paulson},
journal= {arXiv preprint arXiv:2410.01752},
year = {2024}
}