通过后门技术的复合概念提取
计算机视觉与模式识别
2024-06-24 v2 机器学习
摘要
从单个例子中学习复合概念（如 "红色的汽车"），例如用代表 "汽车" 概念的白色汽车和代表 "红色" 概念的红色草莓，本身就具有挑战性。本文引入一种新方法，称为复合概念提取器（Composite Concept Extractor, CoCE），其利用传统后门攻击技术在零样本设置下学习这些复合概念，仅需单个概念的例子。通过重新利用基于触发器的模型后门机制，我们在目标对象（如 "汽车"）的流形中创建一种战略性扭曲，由具有目标属性（如 "红色"）的例子对象（如 "红色草莓"）引起，确保该扭曲仅影响具有目标属性的目标对象。随后采用对比学习进一步细化这种扭曲，并提出一种用于检测受扭曲影响对象的检测方法。我们在多个数据集上进行了广泛实验，并进行深入分析，展示了我们方法的实用性和适用性。
引用
@article{arxiv.2406.13411,
title = {Composite Concept Extraction through Backdooring},
author = {Banibrata Ghosh and Haripriya Harikumar and Khoa D Doan and Svetha Venkatesh and Santu Rana},
journal= {arXiv preprint arXiv:2406.13411},
year = {2024}
}