决策依赖分布学习中吸引域的近似
机器学习
2023-04-26 v4 系统与控制
系统与控制
机器学习
摘要
随着数据驱动方法部署于真实环境，生成观测数据的过程常会对学习者的决策作出反应。例如，数据源可能有动机让算法提供特定标签（如批准银行贷款），并相应操纵其特征。策略分类与决策依赖分布方面的工作通过显式考虑分类器对底层数据分布的影响，来刻画部署学习算法的闭环行为。最近，执行式预测方面的工作通过考虑从分类器到数据分布映射的一般性质而非显式形式，来分类闭环行为。基于该概念，我们将重复风险最小化分析为执行式风险最小化梯度流的扰动轨迹。我们考虑执行式风险可能存在多个局部极小化子的情况，其动机是初始条件可能对系统长期行为有显著影响。我们提供充分条件以刻画该设定下各平衡点的吸引域。此外，我们引入执行式对齐概念，为重复风险最小化收敛到执行式风险极小化子提供了几何条件。
引用
@article{arxiv.2107.00055,
title = {Approximate Regions of Attraction in Learning with Decision-Dependent Distributions},
author = {Roy Dong and Heling Zhang and Lillian J. Ratliff},
journal= {arXiv preprint arXiv:2107.00055},
year = {2023}
}