机器学习鲁棒性：入门

本章探讨了机器学习（ML）中鲁棒性的基本概念及其在建立人工智能（AI）系统可信性中的不可或缺的作用。讨论从鲁棒性的详细定义开始，将其描述为ML模型在各种意外环境条件下保持稳定性能的能力。本文从多个视角剖析了ML鲁棒性：其与泛化能力的互补性；其作为可信AI的必要条件；其对抗与非对抗方面；其量化指标；以及其可复现性和可解释性等指示因素。本章深入探讨了阻碍鲁棒性的因素，如数据偏差、模型复杂性以及欠规范ML流水线的陷阱。它从宏观角度调查了鲁棒性评估的关键技术，包括涵盖数字和物理领域的对抗攻击。它涵盖了非对抗性数据偏移和深度学习（DL）软件测试方法的细微差别。讨论进一步探讨了增强鲁棒性的改善策略，首先是以数据为中心的方法，如去偏和数据增强。进一步的检验包括各种以模型为中心的方法，如迁移学习、对抗训练和随机平滑。最后，讨论了训练后方法，包括集成技术、剪枝和模型修复，这些方法作为使模型更能抵御不可预测情况的低成本策略而出现。本章强调了现有方法在估计和实现ML鲁棒性方面面临的持续挑战和局限性。它为这一关键概念的未来研究提供了见解和方向，作为可信AI系统的先决条件。