通过学会优化实现可解释人工智能
最优化与控制
2023-06-13 v2 机器学习
摘要
不可解释的黑箱在机器学习（ML）中十分常见，但应用越来越需要可解释人工智能（XAI）。XAI 的核心在于建立透明且可解释的数据驱动算法。本文在必须编码先验知识并标记不可信推断的情形下，为 XAI 提供了具体工具。我们采用“学会优化”（L2O）方法，其中每次推断都求解一个数据驱动的优化问题。我们的 L2O 模型易于实现、直接编码先验知识，并给出理论保证（如满足约束）。我们还提出使用可解释证书来验证模型推断是否可信。数值算例见于基于字典的信号恢复、CT 成像以及加密资产套利交易等应用。代码与额外文档见 https://xai-l2o.research.typal.academy。
引用
@article{arxiv.2204.14174,
title = {Explainable AI via Learning to Optimize},
author = {Howard Heaton and Samy Wu Fung},
journal= {arXiv preprint arXiv:2204.14174},
year = {2023}
}