人工神经网络鲁棒训练的分析框架
机器学习
2022-08-16 v2 人工智能
摘要
学习模型的可靠性是机器学习在各行业成功部署的关键。创建鲁棒模型，尤其是不受对抗攻击影响的模型，需要全面理解对抗样本现象。然而，由于机器学习中问题的复杂性质，难以描述该现象。因此，许多研究通过提出对抗样本如何发生的简化模型，并以其对现象某方面的预测来验证它，从而探究该现象。尽管这些研究涵盖了对抗样本的许多不同特征，它们尚未达成对该现象几何与分析建模的整体方法。本文提出一个在学习的理论中研究该现象的形式化框架，并利用复分析与全纯性为人工神经网络提供鲁棒学习规则。借助复分析，我们可以轻松地在现象的几何与分析视角间切换，并通过揭示其与调和函数的联系提供对现象的进一步见解。使用我们的模型，我们可以解释对抗样本的一些最引人好奇的特征，包括对抗样本的可迁移性，并为减轻该现象影响的新方法铺平道路。
引用
@article{arxiv.2205.13502,
title = {An Analytic Framework for Robust Training of Artificial Neural Networks},
author = {Ramin Barati and Reza Safabakhsh and Mohammad Rahmati},
journal= {arXiv preprint arXiv:2205.13502},
year = {2022}
}