可信 AI 因不变性冲突而受限，因果论是解决方案
人工智能
2026-05-05 v1
摘要
随着人工智能（AI），包括机器学习（ML）模型和基础模型（FMs），在高风险领域中不断部署，确保其可信度已成为核心挑战。然而，可信 AI 的核心目标，如公平性、鲁棒性、隐私性和可解释性，难以在保持效用的同时同时实现。本position paper论证，因果论是理解和平衡可信 AI 性能与多目标权衡所必需的。我们通过重新诠释可信 AI 权衡作为不同数据生成过程变化下的不可兼容不变性要求来奠定论点。随后，我们说明因果论提供了统一框架，用以理解可信 AI 权衡如何产生，以及如何通过选择性不变性来软化或解决这些权衡。本观点适用于经典 ML 模型和大规模 FMs。我们的论文讨论了因果假设如何在现代大规模系统中显式或隐式地应用。最后，我们概述了使用因果论构建更可信 AI 的开放挑战和机遇。
引用
@article{arxiv.2605.02640,
title = {Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution},
author = {Ruta Binkyte and Ivaxi Sheth and Zhijing Jin and Mohammad Havaei and Bernhard Schölkopf and Mario Fritz},
journal= {arXiv preprint arXiv:2605.02640},
year = {2026}
}
备注
Accepted at ICML'2026