可解释人工智能的货币化：一把双刃剑
计算机与社会
2023-04-14 v1
摘要
组织所使用的算法在社会中日益行使权力，决定着关键资源与基本物品的分配。为促进此类决策权更公平、更公正、更透明的使用，可解释人工智能（XAI）旨在揭示算法决策逻辑的内在机理。尽管该主题研究众多，面向消费者的 XAI 应用仍属罕见。一个核心原因或许是尚未找到该技术可行的基于平台的货币化策略。我们引入并描述一种通过解释平台将算法解释与程序化广告相融合的新颖货币化策略。我们主张该解释平台代表了一种新颖、具社会影响力且可盈利的人-算法交互形式，并估算其在金融、招聘与教育等高风险的收益潜力。我们随后考量货币化 XAI 可能带来的不良与意外效应，并利用真实世界信贷放贷数据模拟这些情景。最终，我们认为货币化 XAI 可能是一把双刃剑：尽管货币化可激励产业在各类消费应用中采纳 XAI，其亦可能与开发 XAI 的初衷——法律与伦理正当性——相冲突。文末我们探讨能否以负责任且民主的方式利用货币化 XAI 的潜力，以增进消费者对算法解释的获取。
引用
@article{arxiv.2304.06483,
title = {Monetizing Explainable AI: A Double-edged Sword},
author = {Travis Greene and Sofie Goethals and David Martens and Galit Shmueli},
journal= {arXiv preprint arXiv:2304.06483},
year = {2023}
}