面向策略型用户的算法透明度
计算机科学与博弈论
2020-08-24 v1 人工智能
摘要
在决策中应用机器学习算法的企业，是否应使其算法对受影响的用户透明？尽管对算法透明度的呼声日益高涨，大多数企业仍保持其算法不透明，理由是用户可能的博弈行为会对算法的预测能力产生负面影响。我们建立了一个分析模型，在存在策略型用户的情况下比较有与无算法透明度时的企业与用户剩余，并提出了新的见解。我们确定了一组广泛的条件，在这些条件下使算法透明对企业有利。我们表明，在某些情况下，若企业使机器学习算法透明，其预测能力甚至可能提升。相比之下，在算法透明度下用户未必总是更好。即便不透明算法的预测能力主要源于相关性特征，且用户改进这些特征的成本接近于零，结果仍然成立。总体而言，我们的结果表明，企业不应将用户的操纵视为坏事。相反，它们应将算法透明度作为激励用户投资于更可取特征的杠杆。
引用
@article{arxiv.2008.09283,
title = {Algorithmic Transparency with Strategic Users},
author = {Qiaochu Wang and Yan Huang and Stefanus Jasin and Param Vir Singh},
journal= {arXiv preprint arXiv:2008.09283},
year = {2020}
}