CG-CNN：通过上下文引导与迁移学习实现自监督特征提取
计算机视觉与模式识别
2024-10-25 v3 机器学习
摘要
上下文引导卷积神经网络（CG-CNN）利用自监督与上下文信息，开发可跨视觉、触觉、时序和文本等多样域迁移的特征。本工作通过在 Caltech 与 Brodatz 纹理、VibTac-12 触觉数据集、高光谱图像，以及 XOR 问题与文本分析等挑战上的应用，展示了 CG-CNN 的适应性。在文本分析中，CG-CNN 采用一种利用相邻词上下文进行分类的创新嵌入策略；而在视觉与信号数据中，其通过利用空间信息增强特征提取。CG-CNN 模拟生物神经网络的上下文引导无监督学习机制，并可在小规模数据集上训练学习其特征。我们在自然图像上的实验结果表明，CG-CNN 在可迁移性与分类精度上优于 AlexNet、ResNet、GoogLeNet 等知名深度网络的可比第一层特征。在文本分析中，CG-CNN 学习到的词嵌入在 20 Newsgroups 文本分类等任务上优于 Word2Vec 等传统模型。此外，正在开展的工作包括以另一个 CG-CNN 的输出训练 CG-CNN，以探索多层架构，旨在构建更复杂且更具描述性的特征。这种对多种数据类型的可扩展性与适应性，凸显了 CG-CNN 处理广泛应用潜力，使其成为应对多样数据表示难题的一种有前景的架构。
引用
@article{arxiv.2103.01566,
title = {CG-CNN: Self-Supervised Feature Extraction Through Contextual Guidance and Transfer Learning},
author = {Olcay Kursun and Ahmad Patooghy and Peyman Poursani and Oleg V. Favorov},
journal= {arXiv preprint arXiv:2103.01566},
year = {2024}
}