构造性错误：微调神经网络以在有限样例集上保证特定性能
机器学习
2020-08-05 v1 最优化与控制
机器学习
摘要
利用形式化方法保证深度神经网络的可靠性引起了极大兴趣。然而，这些技术也可用于植入精心挑选的输入-输出对。我们给出了一种新技术利用 SMT 求解器微调 ReLU 神经网络的权重，以在有限特定样例集上保证输出结果的初步结果。该过程可用于确保关键样例上的性能，但也可能被用于插入难以发现的错误样例以触发意外性能。我们通过微调一个 MNIST 网络使其对特定图像错误分类来演示该方法，并讨论该方法损害自由共享机器学习模型可靠性的可能性。
引用
@article{arxiv.2008.01204,
title = {Incorrect by Construction: Fine Tuning Neural Networks for Guaranteed Performance on Finite Sets of Examples},
author = {Ivan Papusha and Rosa Wu and Joshua Brulé and Yanni Kouskoulas and Daniel Genin and Aurora Schmidt},
journal= {arXiv preprint arXiv:2008.01204},
year = {2020}
}
备注
Part of 3rd Workshop on Formal Methods for ML-Enabled Autonomous Systems (FoMLAS 2020)