利用蜕变关系作为知识载体训练深度神经网络
机器学习
2021-05-12 v2
摘要
训练多层深度神经网络（DNNs）是困难的。使用大量样本进行训练的标准做法通常无法将 DNN 性能提升至满意水平。因此，需要一种系统化的训练方法。为满足该需求，我们引入一种创新方法，利用蜕变关系（MRs）作为“知识载体”来训练 DNN。基于蜕变测试与 MRs（其在软件测试中扮演测试预言角色）的概念，我们利用蜕变输入组作为 MRs（知识的抽象）的具体实例，以系统且有效的方式训练 DNN。为验证我们训练方法的可行性，我们进行了初步实验，比较了两个 DNN 的性能：一个用 MRs 训练，另一个不用 MRs 训练。我们发现用 MRs 训练的 DNN 性能更优，从而确认了我们将 MRs 作为知识载体训练 DNN 的方法是有前景的。然而，仍需更多工作与研究来巩固并善用该方法，以对有效的 DNN 训练产生广泛影响。
引用
@article{arxiv.2104.04718,
title = {Use of Metamorphic Relations as Knowledge Carriers to Train Deep Neural Networks},
author = {Tsong Yueh Chen and Pak-Lok Poon and Kun Qiu and Zheng Zheng and Jinyi Zhou},
journal= {arXiv preprint arXiv:2104.04718},
year = {2021}
}