自学习鲁棒解释连体网络
机器学习
2021-09-16 v1
摘要
学习比较两个对象在数码取证、人脸识别和脑网络分析等应用中至关重要，尤其在标注数据稀缺且不平衡时。由于这些应用做出高风险决策并涉及公平与透明等社会价值，解释所学模型十分关键。我们旨在研究广泛用于比较学习的连体网络（SN）的事后解释。我们刻画了基于梯度的解释在 SN 中因额外比较对象而不稳定的特性，这与单输入实例的架构不同。我们提出一种优化框架，利用自学习从无标签数据中导出全局不变性，以提升针对特定查询-参考对的局部解释的稳定性。该优化问题可使用梯度下降-上升（GDA）求解约束优化，或使用 SGD 求解 KL 散度正则化无约束优化，并给出收敛性证明，尤其在目标函数因连体架构而非凸时。基于神经科学与化工的表格及图数据的定量结果与案例研究表明，该框架在尊重自学习不变性的同时，鲁棒地优化了解释的真实性与简洁性。我们进一步通过实验证明了 GDA 的收敛性。
引用
@article{arxiv.2109.07371,
title = {Self-learn to Explain Siamese Networks Robustly},
author = {Chao Chen and Yifan Shen and Guixiang Ma and Xiangnan Kong and Srinivas Rangarajan and Xi Zhang and Sihong Xie},
journal= {arXiv preprint arXiv:2109.07371},
year = {2021}
}
备注
Accepted to ICDM 2021