中文

利用形式化验证结果 tighten PAC 边界

机器学习 2024-07-30 v1

摘要

可能性接近正确 (PAC) 边界广泛用于推导机器学习模型泛化的概率保证。它们揭示了模型各组成部分如何贡献于其泛化能力。然而,当前最新结果在逼近实际部署机器学习模型的泛化能力方面较为松散。因此,尽管 PAC 边界在理论上具有实用性,但其在评估给定操作设计域中模型泛化性质的适用性受限。传统理论的基础是:当用户可用于评估模型的测试点数量增加时,边界可以被紧密化。然而,在神经网络情况下,即使针对小规模问题,获取感兴趣边界所需的测试点数量往往是不切实际的。本文提出一种新颖方法,即利用神经系统的形式化验证来信息化 PAC 边界评估。我们不使用来自重复测试的点状信息,而是使用围绕测试点的区域验证结果。我们表明,条件化现有边界并结合验证结果,可实现与已验证区域底层概率质量成比例的紧密化。

关键词

引用

@article{arxiv.2407.20122,
  title  = {Tightening the Evaluation of PAC Bounds Using Formal Verification Results},
  author = {Thomas Walker and Alessio Lomuscio},
  journal= {arXiv preprint arXiv:2407.20122},
  year   = {2024}
}

备注

10 pages