利用先验信息学习的基本权衡
机器学习
2023-04-27 v1 人工智能
信息论
math.IT
摘要
我们旨在理解学习者在给定问题上所拥有先验信息的准确性与其学习性能之间的基本权衡。我们引入优先风险(prioritized risk)的概念,它与传统的极大极小风险和贝叶斯风险不同,允许我们在现实不一定符合学习者先验的设置中研究此类基本权衡。我们提出一种基于归约的通用方法,用于扩展经典的极大极小下界技术,从而为统计估计问题的优先风险提供下界。我们还引入了一种Fano不等式的新推广(其本身可能具有独立意义),用于在涉及无界损失的更一般设置中对优先风险进行下界估计。我们展示了我们的框架为估计、回归和强化学习问题中先验信息与学习性能之间的权衡提供洞察的能力。
引用
@article{arxiv.2304.13479,
title = {Fundamental Tradeoffs in Learning with Prior Information},
author = {Anirudha Majumdar},
journal= {arXiv preprint arXiv:2304.13479},
year = {2023}
}
备注
Proceedings of the 40th International Conference on Machine Learning, Honolulu, Hawaii, USA. PMLR 202, 2023