基于可微信息不平衡的分子系统自动特征选择与加权
机器学习
2025-01-22 v2 计算物理
机器学习
摘要
特征选择在分子系统分析及许多其他领域至关重要，但仍存在若干不确定性：简化且保留关键信息的模型的最优特征数量是多少？具有不同单位的特征应如何对齐，其相对重要性应如何加权？在此，我们引入可微信息不平衡（Differentiable Information Imbalance, DII），一种用于排序特征集之间信息含量的自动化方法。利用真实特征空间中的距离，DII识别出最能保持这些关系的低维特征子集。每个特征通过一个权重进行缩放，该权重通过最小化DII经由梯度下降进行优化。这使得可以同时执行单位对齐和相对重要性缩放，同时保持可解释性。DII还可以产生稀疏解并确定约简特征空间的最优大小。我们在两个基准分子问题上展示了该方法的有效性：（1）识别描述生物分子构象的集体变量，（2）为训练机器学习力场选择特征。这些结果展示了DII在应对特征选择挑战及优化各种应用中的维度方面的潜力。该方法已实现在Python库DADApy中。
引用
@article{arxiv.2411.00851,
title = {Automatic feature selection and weighting in molecular systems using Differentiable Information Imbalance},
author = {Romina Wild and Felix Wodaczek and Vittorio Del Tatto and Bingqing Cheng and Alessandro Laio},
journal= {arXiv preprint arXiv:2411.00851},
year = {2025}
}