通过多重批归一化与多目标对抗样本推进深度度量学习
机器学习
2022-12-07 v2 计算机视觉与模式识别
摘要
深度度量学习（DML）是机器学习中的一个重要领域，具有广泛的实际应用，专注于学习视觉相似性。已知诸如对抗样本（AXs）等遵循与干净数据不同分布的输入会导致 DML 系统做出错误预测。本文提出 MDProp，一种同时提升 DML 模型在干净数据与遵循多种分布输入上性能的框架。MDProp 通过 AX 生成过程利用多分布数据，同时在 DML 模型训练期间借助多个批归一化层实现解耦学习。MDProp 首次生成特征空间多目标对抗样本，以对训练模型更密集的嵌入空间区域执行目标正则化，从而改善嵌入空间密度，有助于提升训练模型的泛化能力。通过全面的实验分析，我们表明与常规方法相比，MDProp 使干净数据 Recall@1 分数提升高达 2.95%，针对不同输入分布的鲁棒性提升高达 2.12 倍。
引用
@article{arxiv.2211.16253,
title = {Advancing Deep Metric Learning Through Multiple Batch Norms And Multi-Targeted Adversarial Examples},
author = {Inderjeet Singh and Kazuya Kakizaki and Toshinori Araki},
journal= {arXiv preprint arXiv:2211.16253},
year = {2022}
}