论鲁棒且准确分类器的连续性

学习模型的可靠性对于机器学习在各种应用中的成功部署至关重要。然而，由于机器学习问题性质复杂，难以描述该现象。已有研究表明对抗训练可提升假设的鲁棒性，但这种提升通常以自然样本上性能下降为代价。因此，有观点指出假设的鲁棒性与准确性彼此矛盾。本文提出另一种主张：在许多此类场景中，假设的连续性与鲁棒性和准确性不相容。换言之，连续函数无法有效学习最优鲁棒假设。我们引入一个框架，以学习理论术语严格研究调和与全纯假设，并提供经验证据，表明在某些常见机器学习任务中连续假设的表现不如不连续假设。从实践角度看，我们的结果表明，鲁棒且准确的学习规则会为定义域的不同区域训练不同的连续假设。从理论角度看，我们的分析将这些情形下的对抗样本现象解释为函数序列的连续性与到不连续函数的均匀收敛之间的冲突。鉴于许多当代机器学习模型都是连续函数，从理论上研究鲁棒且准确分类器的连续性十分重要，因为这关乎其构建、分析与评估。