人们可以准确预测可获得、紧凑且对齐的复杂算法的行为
人机交互
2026-01-28 v1
摘要
当用户能够预测算法行为时，他们会更信任算法。简单算法在预测上自然很准确，但现代AI算法常被假设为太复杂，用户无法构建预测性心理模型，尤其是在社交媒体领域。在本文中，我们描述了即使是复杂算法也能产生准确预测性心理模型的条件，为更广泛的人类中心算法开辟了机遇。我们理论化地认为，用户仅当算法同时满足以下三个条件时，才会形成准确的预测性心理模型：（1）被建模底层概念的认知可及性；（2）概念紧凑性（它是否形成单一认知构造？）；（3）个人执行概念与算法执行概念之间的高度一致性。我们通过一项预注册实验（N=1250）进行了该理论评估，其中用户预测25个在这些标准方面有所变化的社交媒体 feed 排序算法的行为。我们发现，即使是复杂（例如基于LLM）的算法在满足所有标准时也能享有准确的预测率，而即使是简单（例如基本词数）的算法在单一标准失效时也无法被预测。我们还发现，这些标准决定了结果超出预测准确率的范围，例如用户部署哪些心理模型来做出预测。
引用
@article{arxiv.2601.18966,
title = {People Can Accurately Predict Behavior of Complex Algorithms That Are Available, Compact, and Aligned},
author = {Lindsay Popowski and Helena Vasconcelos and Ignacio Javier Fernandez and Chijioke Chinaza Mgbahurike and Ralf Herbrich and Jeffrey Hancock and Michael S. Bernstein},
journal= {arXiv preprint arXiv:2601.18966},
year = {2026}
}
备注
41 pages, 9 figures; this work to appear in PACMHCI V10, N2, April 2026 and be presented at the 29th ACM SIGCHI Conference on Computer-Supported Cooperative Work & Social Computing (CSCW)