通过增强内容与风格利用分布外样本
机器学习
2023-04-11 v2
摘要
机器学习模型易受分布外（OOD）样本攻击，该问题已引起广泛关注。然而，现有方法未能充分理解不同类型的 OOD 数据：存在良性的 OOD 数据可被适当适配以提升学习性能，而其他恶性的 OOD 数据会严重恶化分类结果。为利用 OOD 数据，本文提出一种 HOOD 方法，能够利用每个图像实例的内容与风格来辨识良性与恶性 OOD 数据。具体而言，我们设计了一个变分推断框架，通过构建结构因果模型来因果解耦内容与风格特征。随后，我们通过干预过程增强内容与风格，分别产生恶性和良性 OOD 数据。良性 OOD 数据包含新颖风格但保持我们关注的内容，可被用于训练风格不变模型。相反，恶性 OOD 数据继承未知内容但携带熟悉风格，通过检测它们可提升模型对欺骗性异常的鲁棒性。得益于所提出的新颖解耦与数据增强技术，HOOD 能有效处理未知开放环境中的 OOD 样本，其有效性在三种典型 OOD 应用中得到实证验证，包括 OOD 检测、开集半监督学习和开集域适应。
引用
@article{arxiv.2207.03162,
title = {Harnessing Out-Of-Distribution Examples via Augmenting Content and Style},
author = {Zhuo Huang and Xiaobo Xia and Li Shen and Bo Han and Mingming Gong and Chen Gong and Tongliang Liu},
journal= {arXiv preprint arXiv:2207.03162},
year = {2023}
}
备注
ICLR 2023