COMMUNITY-CROSS-INSTRUCT：面向联机社区的无监督指令生成
计算与语言
2024-10-23 v3
摘要
社会科学家使用调查来探测人群的意见和信念，但这些方法缓慢、昂贵且容易受偏见影响。最近的大型语言模型（LLM）进展使得能够创建代表人群的计算表示或“数字双胞胎”，生成类似人类语言、风格和态度的响应。我们引入 Community-Cross-Instruct，一种无监督框架，用于将 LLM 对齐到线上社区以从中获取信念。给定一套社区在线讨论的语料库，Community-Cross-Instruct 通过高级 LLM 自动生成指令-输出对，以（1）微调基础 LLM 以忠实代表该社区，（2）评估微调模型与社区的对齐程度。我们展示了该方法在准确表示 Reddit 上的政治和饮食社区方面的实用性。与需要人类编写指令的先前方法不同，Community-Cross-Instruct 以完全无监督方式生成指令，提高了跨域的可扩展性和泛化能力。本工作实现了对多样化线上社区的成本有效且自动化的调查。
引用
@article{arxiv.2406.12074,
title = {COMMUNITY-CROSS-INSTRUCT: Unsupervised Instruction Generation for Aligning Large Language Models to Online Communities},
author = {Zihao He and Minh Duc Chu and Rebecca Dorn and Siyi Guo and Kristina Lerman},
journal= {arXiv preprint arXiv:2406.12074},
year = {2024}
}