麻烦的核——论逆问题中的幻觉、无免费午餐与精度-稳定性权衡
机器学习
2024-06-21 v4 计算机视觉与模式识别
摘要
受人工智能（AI）启发的方法正通过对难题的突破性表现，开始从根本上改变计算科学与工程。然而，此类技术的可靠性与可信度是主要关注点。在本文关注的成像逆问题中，越来越多的经验证据表明，方法可能存在幻觉（即虚假但看似真实的伪影）、不稳定性（即对数据扰动的敏感性）以及不可预测的泛化（即在某些图像上表现优异，而在其他图像上显著退化）。本文为这些现象提供了理论基础。我们给出了任意重建方法中此类效应如何及何时产生的数学解释，其中若干结果以“无免费午餐”定理的形式呈现。具体而言，我们表明：（i）在单幅图像上表现过优的方法可能将细节错误地从一幅图像迁移至另一幅，从而产生幻觉；（ii）在两幅或更多图像上表现过优的方法可能产生幻觉或不稳定；（iii）优化精度-稳定性权衡通常困难；（iv）幻觉与不稳定若发生，并非稀有事件，并可能被标准训练所助长；（v）对某些问题可能无法构造最优重建映射。我们的结果将这些效应追溯至前向算子的核（只要其非平凡），但也适用于前向算子病态的情形。基于这些见解，我们的工作旨在激发针对成像逆问题中鲁棒且可靠的基于 AI 方法的新研究。
引用
@article{arxiv.2001.01258,
title = {The troublesome kernel -- On hallucinations, no free lunches and the accuracy-stability trade-off in inverse problems},
author = {Nina M. Gottschling and Vegard Antun and Anders C. Hansen and Ben Adcock},
journal= {arXiv preprint arXiv:2001.01258},
year = {2024}
}