利用贝叶斯神经网络学习全局成对交互作用
机器学习
2020-07-14 v3 机器学习
摘要
估计全局成对交互效应，即两个输入特征的联合效应与边际效应之和的差值，并恰当量化其不确定性，在科学应用中至关重要。我们提出一种用于检测未知形式交互效应的非参数概率方法。首先，使用能够表征复杂交互与原则性不确定性的贝叶斯神经网络对特征与输出之间的关系建模。其次，从训练好的模型中估计交互效应及其不确定性。对于第二步，我们提出一种直观的全局交互度量：贝叶斯分组期望Hessian(GEH)，其聚合了由Hessian捕获的局部交互信息。GEH在I类与II类错误之间提供了自然的权衡，并且 moreover 带有理论保证，确保通过训练更精确的BNN可改进所估计的交互效应及其不确定性。该方法在模拟与真实世界数据上经验性地优于现有的非概率替代方法。最后，我们展示了其检测更高层特征（神经网络更深层的）之间可解释交互的能力。
引用
@article{arxiv.1901.08361,
title = {Learning Global Pairwise Interactions with Bayesian Neural Networks},
author = {Tianyu Cui and Pekka Marttinen and Samuel Kaski},
journal= {arXiv preprint arXiv:1901.08361},
year = {2020}
}
备注
8 pages