调查迁移学习:与硅谷响应回收数据
人工智能
2025-11-04 v2
摘要
随着研究人员越来越多地使用大型语言模型(LLMs)生成合成调查数据,针对替代AI范式的关注度不足,而且LLMs的环境成本较高。本文介绍了调查迁移学习(Survey Transfer Learning, STL),其从计算机科学中发展出迁移学习范式,用于回收现有调查数据并生成以硅谷响应为依托的人口统计数据。灵感来自政治行为理论,STL利用在美国高度 polarized 语境中在人口统计变量中具有高预测力的变量,跨调查传递知识。使用在Cooperative Election Study (CES) 2020上预训练的神经网络,冻结早期层以保留所学结构,在American National Election Studies (ANES) 2020上微调顶层,STL在CES 2022以及在保留的ANES 2020数据中生成硅谷响应,准确率可达93%。结果表明,STL在敏感措施(如种族怨恨)方面优于LLMs。尽管LLMs的硅谷样本成本高昂且难以解释,但STL生成的以人口统计为依托的硅谷响应在individual-level 准确率上具有显著优势,或许能帮助缓解社会科学和民调行业的关键挑战。
引用
@article{arxiv.2501.06577,
title = {Survey Transfer Learning: Recycling Data with Silicon Responses},
author = {Ali Amini},
journal= {arXiv preprint arXiv:2501.06577},
year = {2025}
}
备注
Revised and expanded version (v2). 32 pages, 11 figures. Under review at Political Analysis. Presented at SPSA 2025 (Political Methodology Panel)