机器学习问题的具体安全性：面向机器学习开发与评估的系统安全

许多利益相关者难以信赖机器学习驱动的系统，因为这些系统可能造成伤害风险。对可信度、意外社会危害以及不可接受的社会和伦理违规行为的担忧，削弱了机器学习进步的前景。此外，复杂机器学习驱动系统中的此类风险提出了特殊挑战，因为它们通常难以预见，会随时间推移、跨人群和大规模地出现。这些风险通常并非直接源于糟糕的机器学习开发决策或低性能，而是通过机器学习开发选择、模型使用上下文、环境因素以及模型对其目标的影响之间的相互作用而涌现。系统安全工程是一门成熟的学科，在识别和管理风险方面拥有可靠的记录，即使是在高度复杂的社会技术系统中也是如此。在这项工作中，我们将最先进的系统安全方法应用于具有显著社会和伦理风险的机器学习具体应用，以展示一种系统性的手段，来满足论证社会技术系统中安全可信的机器学习所需的保障要求。