策略分类中行为响应的双刃剑：理论与用户研究
机器学习
2024-10-28 v2 计算机科学与博弈论
人机交互
摘要
当人类受制于算法决策系统时，他们可以策略性地调整自己的行为（“玩弄”系统）。虽然关于策略分类的文献日益增多，并使用博弈论建模来理解和减轻这种博弈行为，但这些现有工作考虑的是完全理性智能体的标准模型。在本文中，我们提出了一个考虑人类对算法响应中存在行为偏差的策略分类模型。我们展示了对分类器（特别是其特征权重）的误解如何导致有偏差智能体与理性智能体响应之间的不同类型差异，并识别了行为智能体何时在哪些特征上过度或不足投资。我们还表明，与完全理性的策略智能体相比，具有行为偏差的策略智能体可能对企业有利或（或许出乎意料地）有害。我们通过用户研究来补充我们的分析结果，这些研究支持了我们对人类响应算法时存在行为偏差的假设。总之，我们的发现强调了在设计人工智能系统并向策略性人类参与者提供解释时，需要考虑人类（认知）偏差。
引用
@article{arxiv.2410.18066,
title = {The Double-Edged Sword of Behavioral Responses in Strategic Classification: Theory and User Studies},
author = {Raman Ebrahimi and Kristen Vaccaro and Parinaz Naghizadeh},
journal= {arXiv preprint arXiv:2410.18066},
year = {2024}
}