用于学习多样化表示的信息竞争过程
机器学习
2019-12-02 v3 计算机视觉与模式识别
机器学习
摘要
学习具有多样化信息的表示仍是一个开放问题。为学习多样化表示，本文提出一种称为信息竞争过程(Information Competing Process, ICP)的新方法。为丰富特征表示所携带的信息，ICP将一个表示分离为两部分并施加不同的互信息约束。分离出的两部分被强制在竞争环境中独立完成后游任务，这防止了两部分学习彼此为后游任务所学到的内容。这些竞争的部分随后被协同组合以完成任务。通过融合在不同条件下竞争学习的表示部分，ICP有助于获得包含丰富信息的多样化表示。在图像分类与图像重建任务上的实验展示了ICP在监督与自监督学习设置中学习判别性与解耦表示的巨大潜力。
引用
@article{arxiv.1906.01288,
title = {Information Competing Process for Learning Diversified Representations},
author = {Jie Hu and Rongrong Ji and ShengChuan Zhang and Xiaoshuai Sun and Qixiang Ye and Chia-Wen Lin and Qi Tian},
journal= {arXiv preprint arXiv:1906.01288},
year = {2019}
}
备注
Accept as a NeurIPS 2019 paper