MONAL：用于建模人机交互的模型自噬分析
计算与语言
2024-04-02 v2 计算机与社会
人机交互
摘要
大型模型及其多模态变体在社会信息处理中的重要性日益凸显，引发了关于社会安全与伦理的辩论。然而，目前缺乏对以下两方面的综合分析：(i) 人类与人工智能系统之间的交互，以及 (ii) 对相关局限性的理解与应对。为弥补这一空白，我们提出了模型自噬分析（Model Autophagy Analysis, MONAL），用于解释大型模型的自我消耗现象。MONAL 采用两个不同的自噬循环（称为“自我消耗循环”），以阐明在人机系统交换过程中人类生成信息所受到的抑制。通过在多样化数据集上进行综合实验，我们评估了生成模型作为信息创造者和传播者的能力。主要发现揭示：(i) 与人类生成信息相比，训练数据集中模型生成的合成信息随时间推移逐渐占据主导地位；(ii) 大型模型在多次迭代中充当信息传播者时，表现出选择性修改或优先处理特定内容的明显倾向；(iii) 社会性或人类生成信息的多样性可能降低，从而导致大型模型性能提升遭遇瓶颈，并将其限制在局部最优解中。
引用
@article{arxiv.2402.11271,
title = {MONAL: Model Autophagy Analysis for Modeling Human-AI Interactions},
author = {Shu Yang and Muhammad Asif Ali and Lu Yu and Lijie Hu and Di Wang},
journal= {arXiv preprint arXiv:2402.11271},
year = {2024}
}