论作为假设检验问题的机器学习后门检测的（不）可行性
密码学与安全
2024-02-28 v1 人工智能
机器学习
机器学习
摘要
我们为机器学习系统中的后门检测问题引入了一个形式化的统计定义，并利用该定义分析了此类问题的可行性，为我们的定义的实用性和适用性提供了证据。本文的主要贡献是关于后门检测的不可能结果和可实现结果。我们展示了一个“没有免费午餐”定理，证明了除了非常小的字母表大小外，通用的（不知晓攻击者的）后门检测是不可能的。因此，我们认为后门检测方法需要要么是显式的，要么是隐式地知晓攻击者。然而，我们的工作并不意味着后门检测在特定场景下无法工作，科学文献中成功的后门检测方法已证明了这一点。此外，我们将我们的定义与分布外检测问题的概率近似正确 (PAC) 可学习性联系起来。
引用
@article{arxiv.2402.16926,
title = {On the (In)feasibility of ML Backdoor Detection as an Hypothesis Testing Problem},
author = {Georg Pichler and Marco Romanelli and Divya Prakash Manivannan and Prashanth Krishnamurthy and Farshad Khorrami and Siddharth Garg},
journal= {arXiv preprint arXiv:2402.16926},
year = {2024}
}