中文

修复深度神经网络架构:我们到位了吗?

软件工程 2023-01-30 v1

摘要

随着深度神经网络(DNNs)在大型软件系统中被迅速采用,软件开发人员越来越需要在所开发系统中设计、训练和部署此类模型。因此,测试并提升这些模型的鲁棒性近来备受关注。然而,针对开发人员在设计和训练此类模型时所遇困难的解决努力相对较少:若模型在初始训练后评估表现不佳,开发人员应如何修改?我们调研并评估了现有可用于修复模型性能的前沿技术,使用了一个包含开发人员在设计DNN模型时所犯真实错误以及通过对模型代码变异生成的人工故障模型的基准。实证评估显示,随机基线可与现有前沿技术相媲美,有时甚至优于它们。然而,对于更大且更复杂的模型,所有修复技术均未能找到修复方案。我们的发现呼吁进一步研究以开发更精细的深度学习修复技术。

关键词

引用

@article{arxiv.2301.11568,
  title  = {Repairing DNN Architecture: Are We There Yet?},
  author = {Jinhan Kim and Nargiz Humbatova and Gunel Jahangirova and Paolo Tonella and Shin Yoo},
  journal= {arXiv preprint arXiv:2301.11568},
  year   = {2023}
}

备注

Paper accepted to ICST 2023