广义约束神经网络的局部施加函数——等式约束研究
神经与进化计算
2016-04-19 v1 机器学习
机器学习
摘要
本工作是对广义约束神经网络（GCNN）模型[1],[2]的进一步研究。研究中遇到两个挑战，即如何嵌入任意类型的先验信息以及选择其施加方案。本工作聚焦于第二个挑战，并研究针对等式约束的一种新约束施加方案。提出一种称为局部施加函数（LIF）的新方法，对GCNN预测函数提供局部修正，从而归属于局部施加方案（LIS）。作为对比，传统的拉格朗日乘子法被视为全局施加方案（GIS），因为其增加的约束项对其目标函数具有全局影响。相较于GIS，LIS具有两点优势。首先，LIS使约束仅在其于预测函数上所需的区域局部且显式地激发。其次，约束可直接在网络设置内实现。我们尝试从局部性原理的视角以图形方式解释若干约束方法。数值算例证实了所提方法的优势。在求解带Dirichlet与Neumann约束的边值问题时，带有LIF的GCNN模型有可能实现对约束的精确满足。
引用
@article{arxiv.1604.05198,
title = {Locally Imposing Function for Generalized Constraint Neural Networks - A Study on Equality Constraints},
author = {Linlin Cao and Ran He and Bao-Gang Hu},
journal= {arXiv preprint arXiv:1604.05198},
year = {2016}
}
备注
8 pages, 7 figures