迈向抽象的数学理论
人工智能
2021-06-29 v2 机器学习
摘要
尽管恰当选用的抽象对于理解与预测复杂系统行为的作用已广受认可,但抽象究竟迄今在很大程度上回避了数学形式化。在本文中,我们旨在提出一种抽象的数学理论。我们给出了抽象是什么的精确刻画,并或许更重要的是,提出了如何从数据中直接学习抽象——既针对静态数据集,也针对动力系统。我们将抽象定义为系统的一小组“汇总量”,可用于回答关于系统或其行为的一组查询。系统在查询上的真实行为与仅由抽象预测的系统行为之间的差异,提供了抽象“泄漏度”的度量,可作为损失函数直接从数据中学习抽象。我们的方法可视为经典统计的推广:我们无意完整重建“数据”,而仅关注回答关于数据的一组任意查询。尽管高度理论化,我们的结果对统计推断与机器学习具有深远影响,并可用于发展从数据中直接学习精确抽象类型的显式方法。
引用
@article{arxiv.2106.01826,
title = {Towards a Mathematical Theory of Abstraction},
author = {Beren Millidge},
journal= {arXiv preprint arXiv:2106.01826},
year = {2021}
}
备注
03/06/21 initial upload. 25/06/21 minor fixes and corrections