AutoLoRa：一种无参数的自动化鲁棒微调框架
机器学习
2023-10-04 v1 密码学与安全
摘要
鲁棒微调（RFT）是一种低成本策略，可在下游应用中获得对抗鲁棒性，而无需大量计算资源与显著规模的数据收集。本文揭示了现有 RFT 的一个问题：通过特征提取器（FE）同时优化对抗目标与自然目标会产生显著发散的梯度方向。这种发散给优化过程带来不稳定性，从而阻碍对抗鲁棒性的达成，并使 RFT 对超参数高度敏感。为缓解该问题，我们提出一个低秩（LoRa）分支，将 RFT 解耦为两个独立部分：通过 LoRa 分支优化自然目标，通过 FE 优化对抗目标。此外，我们引入启发式策略以自动调度学习率与损失项标量。大量实证评估表明，我们所提出的通过 LoRa 分支解耦的自动化 RFT（AutoLoRa）在一系列下游任务上取得了新的 SOTA 结果。AutoLoRa 具有重要的实用价值，因为它无需搜索超参数即可自动将预训练 FE 转换为面向下游任务的对抗鲁棒模型。
引用
@article{arxiv.2310.01818,
title = {AutoLoRa: A Parameter-Free Automated Robust Fine-Tuning Framework},
author = {Xilie Xu and Jingfeng Zhang and Mohan Kankanhalli},
journal= {arXiv preprint arXiv:2310.01818},
year = {2023}
}