主动傅里叶审计员：用于估计 ML 模型分布属性的框架
机器学习
2024-10-11 v1 人工智能
计算机与社会
机器学习
摘要
随着机器学习（ML）模型在实际应用中的广泛部署，验证和审计 ML 模型属性已成为核心关注议。本文聚焦三个属性：鲁棒性、个人公平性和群体公平性。我们讨论两种审计 ML 模型属性的方法：一种是对被审计模型进行重构后进行估计，另一种是不进行重构直接进行估计。尽管前者在文献中已有研究，后者尚未被探索。为此，我们构建了一个新框架，将 ML 模型的不同属性以被审计模型的傅里叶系数形式量化，但无需对其进行参数化重构。我们提出了主动傅里叶审计员（Active Fourier Auditor, AFA），其通过查询被审计模型的傅里叶系数所决定的样本点，并进一步估计这些属性。我们推导了 AFA 估计的高概率误差界，以及对这些属性样本复杂度的最坏情况下界。数值实验表明，在多个数据集和模型上，AFA 在估计感兴趣属性方面比基线方法更准确且更高效。
引用
@article{arxiv.2410.08111,
title = {Active Fourier Auditor for Estimating Distributional Properties of ML Models},
author = {Ayoub Ajarra and Bishwamittra Ghosh and Debabrota Basu},
journal= {arXiv preprint arXiv:2410.08111},
year = {2024}
}