异或问题的 copula 表示与误差曲面投影
机器学习
2023-09-08 v2 机器学习
摘要
异或（xor）函数是说明非线性前馈网络为何优于线性回归用于机器学习应用的最简单示例之一。我们回顾xor的表示与逼近问题，并从概率逻辑与关联copula函数的角度讨论其解。在简要回顾前馈网络规范后，我们通过一组彩色三维图表比较了使用如RELU与tanh等不同激活函数时所学误差曲面的动态。copula表示将xor从布尔值推广到实数值，从而提供了一种便利方式来演示关于样本内与样本外数据集的交叉验证概念。我们的方法具教学性，意在作为机器学习序论。
引用
@article{arxiv.1907.04483,
title = {Copula Representations and Error Surface Projections for the Exclusive Or Problem},
author = {Roy S. Freedman},
journal= {arXiv preprint arXiv:1907.04483},
year = {2023}
}