用于训练孪生网络的 Fisher 判别三元组与对比损失
机器学习
2020-10-20 v1 计算机视觉与模式识别
机器学习
摘要
孪生神经网络是一种在特征提取和度量学习方面都非常强大的架构。它通常由若干个共享权重的网络组成。孪生概念与拓扑无关，可使用任何神经网络作为骨干。训练这些网络最常用的两个损失函数是三元组损失和对比损失函数。本文中，我们提出两种新颖的损失函数，名为 Fisher 判别三元组（FDT）和 Fisher 判别对比（FDC）。前者使用锚-近邻-远邻三元组，而后者利用锚-近邻与锚-远邻样本对。FDT 和 FDC 损失函数基于 Fisher 判别分析（FDA）的统计公式设计，FDA 是一种线性子空间学习方法。我们在 MNIST 和两个具有挑战性且公开可用的组织病理学数据集上的实验显示了所提损失函数的有效性。
引用
@article{arxiv.2004.04674,
title = {Fisher Discriminant Triplet and Contrastive Losses for Training Siamese Networks},
author = {Benyamin Ghojogh and Milad Sikaroudi and Sobhan Shafiei and H. R. Tizhoosh and Fakhri Karray and Mark Crowley},
journal= {arXiv preprint arXiv:2004.04674},
year = {2020}
}
备注
Accepted (to appear) in International Joint Conference on Neural Networks (IJCNN) 2020, IEEE, in IEEE World Congress on Computational Intelligence (WCCI) 2020