CoNSoLe：凸神经符号学习
机器学习
2022-10-13 v2 人工智能
摘要
从数据中学习底层方程在许多学科中都是一个基本问题。近期进展依赖于神经网络（NNs），但由于神经网络的非凸性，无法提供获得精确方程的理论保证。本文提出凸神经符号学习（CoNSoLe）以在温和条件下寻求凸性。其主要思想是将恢复过程分解为两步并分别凸化。在第一步寻找正确符号时，我们对深度 Q-learning 进行凸化。关键是在每次迭代中同时保持负 Q 函数与负奖励函数的双重凸性，从而导出用于学习真实符号连接的负最优 Q 函数的可证明凸性。在精确搜索结果条件下，我们构建局部凸方程学习器（LoCaL）神经网络以凸化符号系数的估计。通过此设计，我们针对常用物理函数量化了 LoCaL 损失曲面中具有严格凸性的大区域。最后，我们在多种数据集上展示了 CoNSoLe 框架优于最先进方法的性能。
引用
@article{arxiv.2206.00257,
title = {CoNSoLe: Convex Neural Symbolic Learning},
author = {Haoran Li and Yang Weng and Hanghang Tong},
journal= {arXiv preprint arXiv:2206.00257},
year = {2022}
}
备注
18 pages, 5 figures, conference for NeurIPS 2022