MUTE：面向神经网络设计的数据相似性驱动多热目标编码
机器学习
2019-10-22 v1 计算机视觉与模式识别
机器学习
摘要
目标编码是一种有效技术，能为传统机器学习方法带来更优性能，近来也被用于深度神经网络。然而，现有目标编码方法需要显著增加学习容量，因而要求更高的计算能力和更多的训练数据。本文提出一种新颖高效的目标编码方案 MUTE，通过理解目标数据集的类间特征来提升目标模型的泛化性与鲁棒性。MUTE 通过提取数据集中目标类别间的混淆程度，策略性地优化目标编码间的汉明距离。这种优化后的目标编码能为神经网络模型提供更高的分类强度，且计算开销可忽略不计，无需增加模型规模。将 MUTE 应用于流行的图像分类网络与数据集时，实验结果表明，相比现有方案，MUTE 提供了更好的泛化能力以及对噪声和对抗攻击的防御能力。
引用
@article{arxiv.1910.07042,
title = {MUTE: Data-Similarity Driven Multi-hot Target Encoding for Neural Network Design},
author = {Mayoore S. Jaiswal and Bumsoo Kang and Jinho Lee and Minsik Cho},
journal= {arXiv preprint arXiv:1910.07042},
year = {2019}
}
备注
NeurIPS Workshop 2019 - Learning with Rich Experience: Integration of Learning Paradigms