监管可解释人工智能(XAI)可能损害消费者
人工智能
2024-04-02 v3
摘要
近期的 AI 算法是黑箱模型，其决策难以解释。可解释 AI (XAI) 是一类试图通过向客户解释其 AI 决策来解决 AI 可解释性与信任缺失问题的方法。通常的观点认为，通过强制要求完全透明的 XAI 来监管 AI 会带来更大的社会福利。我们的论文通过一个博弈论模型挑战了这一观念，该模型包含最大化社会福利的政策制定者、在双寡头竞争中最大化利润的企业，以及异质性消费者。结果表明，XAI 监管可能是多余的。事实上，强制要求完全透明的 XAI 可能使企业 and 消费者境况更差。这揭示了最大化福利与获得可解释 AI 输出之间的权衡。我们在方法与实质层面拓展了现有文献，并引入并研究了 XAI 公平性的概念，即使是在强制 XAI 下也可能无法保证该公平性。最后，分别讨论了我们的结果对政策制定者和企业的监管与管理启示。
引用
@article{arxiv.2209.03499,
title = {Regulating eXplainable Artificial Intelligence (XAI) May Harm Consumers},
author = {Behnam Mohammadi and Nikhil Malik and Tim Derdenger and Kannan Srinivasan},
journal= {arXiv preprint arXiv:2209.03499},
year = {2024}
}
备注
Corrected the title