针对机器学习防御模型的对抗攻击竞赛
计算机视觉与模式识别
2021-10-18 v1 人工智能
密码学与安全
机器学习
摘要
由于深度神经网络对对抗样本的脆弱性，近年来已提出大量防御技术以缓解此问题。然而，构建更鲁棒模型的进展通常因不完整或不正确的鲁棒性评估而受阻。为加速对图像分类中当前防御模型对抗鲁棒性可靠评估的研究，清华大学TSAIL小组与阿里巴巴安全团队在CVPR 2021对抗机器学习研讨会(https://aisecure-workshop.github.io/amlcvpr2021/)上共同组织了本次竞赛。竞赛旨在激励新颖的攻击算法，以更有效、更可靠地评估对抗鲁棒性。鼓励参赛者开发更强的白盒攻击算法，以发现不同防御的最差情况鲁棒性。本次竞赛在对抗鲁棒性评估平台ARES（https://github.com/thu-ml/ares）上进行，并作为AI安全挑战者计划系列赛之一在天池平台（https://tianchi.aliyun.com/competition/entrance/531847/introduction）上举办。赛后，我们总结了结果，并在https://ml.cs.tsinghua.edu.cn/ares-bench/上建立了一个新的对抗鲁棒性基准，允许用户上传对抗攻击算法和防御模型进行评估。
引用
@article{arxiv.2110.08042,
title = {Adversarial Attacks on ML Defense Models Competition},
author = {Yinpeng Dong and Qi-An Fu and Xiao Yang and Wenzhao Xiang and Tianyu Pang and Hang Su and Jun Zhu and Jiayu Tang and Yuefeng Chen and XiaoFeng Mao and Yuan He and Hui Xue and Chao Li and Ye Liu and Qilong Zhang and Lianli Gao and Yunrui Yu and Xitong Gao and Zhe Zhao and Daquan Lin and Jiadong Lin and Chuanbiao Song and Zihao Wang and Zhennan Wu and Yang Guo and Jiequan Cui and Xiaogang Xu and Pengguang Chen},
journal= {arXiv preprint arXiv:2110.08042},
year = {2021}
}
备注
Competition Report