为机器学习做好黑天鹅准备：反脆弱性的挑战
机器学习
2024-05-21 v1 人工智能
系统与控制
系统与控制
摘要
在不断发生分布迁移的情况下安全可靠地运营对于高风险机器学习应用至关重要。本文建立在 Taleb (2014) 引入的“反脆弱性”概念之上，作为一种建设性设计范式，不仅能抵御，还能从波动性中受益。我们正式定义了在在线决策情境下的反脆弱性，即动态 regret 对环境波动性的严格凹函数响应，揭示了当前方法在抵抗而非从非平稳性中受益方面的局限。我们的贡献在于提出可能的计算路径来工程化反脆弱性，将概念置于在线学习理论之内，并与最近在元学习、安全探索、持续学习、多目标/质量多样性优化和基础模型等领域的最新进展建立联系。通过识别有前景的机制和未来研究方向，我们旨在在机器学习中为反脆弱性奠定严谨的理论基础。我们进一步强调需要明确的指南、风险评估框架以及跨学科合作，以确保负责任的应用。
引用
@article{arxiv.2405.11397,
title = {Preparing for Black Swans: The Antifragility Imperative for Machine Learning},
author = {Ming Jin},
journal= {arXiv preprint arXiv:2405.11397},
year = {2024}
}