AI分类器对抗鲁棒性度量的存在性、唯一性与可计算性研究
机器学习
2023-11-16 v4 人工智能
机器学习
摘要
针对（局部）唯一可逆分类器、广义线性模型（GLM）以及熵AI（EAI），本文提出并证明了最小对抗路径（MAP）与最小对抗距离（MAD）存在性、唯一性及显式解析计算的可简单验证数学条件。在常见合成基准（双瑞士卷螺旋及其扩展）以及两个生物医学数据问题（健康保险索赔预测与心脏病致死分类）上，展示了针对各类AI工具（神经网络、提升随机森林、GLM与EAI）的MAP与MAD的实际计算、比较与解释。在生物医学应用中，展示了MAP如何在预定义的可用控制变量子集中提供独特的最小患者特异性风险缓解干预。
引用
@article{arxiv.2310.14421,
title = {On existence, uniqueness and scalability of adversarial robustness measures for AI classifiers},
author = {Illia Horenko},
journal= {arXiv preprint arXiv:2310.14421},
year = {2023}
}
备注
16 pages, 3 figures