当AI民主化剥削：LLM助理如何策略性操纵公平分配算法

公平资源分配算法（如Spliddit平台实现的算法）传统上被认为对最终用户而言难以操纵 due to its complexities（其复杂性使其对最终用户难以操纵）。本文展示了大语言模型（Large Language Models, LLMs）如何通过民主化访问策略专业知识来瓦解这些保护性障碍。通过对Spliddit算法在�金赠与场景中的实证分析，我们表明用户可通过简单地对话式查询AI助手获取可操作的操纵策略。我们提出四种不同的操纵情景：排他性合谋其中少数派操纵多数派，防御性反击策略适得其反，善意的补贴针对特定参与者，以及成本最小化的联盟。我们的实验结果表明，LLMs能够解释算法机制、识别有利偏差并生成具体数值输入以实现协调性偏好误报——这些能力此前需要深入的技术知识。这些发现将算法集体行动理论从分类情境扩展到资源分配情境，协调性偏好操纵取代特征操纵。这些发现的影响力远超�金赠与，涵盖任何使用算法公平性机制进行资源分配的领域。虽然AI启用操纵对系统完整性构成风险，但也为获得平等群体的优先待遇创造了机会。我们认为，有效的应对措施必须结合算法鲁棒性、参与式设计和对AI能力的平等获取，认识到策略专业知识不再是稀缺资源。