考虑AI与用户的相互塑造：数学模型的作用
机器学习
2024-04-19 v1 计算机与社会
计算机科学与博弈论
信息检索
摘要
随着AI系统进入越来越多的社会领域，这些系统日益塑造着用户的偏好、观点和行为，同时也被用户所塑造。然而，AI系统的设计很少考虑AI与用户如何相互塑造。在这篇立场论文中，我们主张开发形式化交互模型，以数学方式指定AI与用户如何相互塑造。形式化交互模型可用于：(1) 指定交互以实现，(2) 通过实证分析监控交互，(3) 通过反事实分析预测社会影响，以及(4) 通过干预控制社会影响。形式化交互模型的设计空间广阔，模型设计需要仔细考虑风格、粒度、数学复杂性和可测量性等因素。以内容推荐系统为案例，我们批判性地审视了形式化交互模型的新兴文献，针对这些用例和设计轴进行了分析。更广泛地说，我们呼吁社区在设计、评估或审计任何与用户交互的AI系统时，利用形式化交互模型。
引用
@article{arxiv.2404.12366,
title = {Accounting for AI and Users Shaping One Another: The Role of Mathematical Models},
author = {Sarah Dean and Evan Dong and Meena Jagadeesan and Liu Leqi},
journal= {arXiv preprint arXiv:2404.12366},
year = {2024}
}