语言模型中随机同情的语言痕迹
计算与语言
2026-01-26 v2 人工智能
摘要
区分生成内容与人类撰写内容的难度日益加大。我们检验了不同动机（如传递“人类感”）与任务特性如何影响这种人类与 AI 竞赛。第一、二项研究（分别样本数为 530 和 610）中，人类与大语言模型（LLM）分别撰写亲密关系建议或描述性内容，是否包含使其听起来更像人类的指令。新参与者（分别为 428 和 408）对每段文本的来源进行判断。仅对 LLM 有效，使其听起来像人类的指令可显著缩小人类优势。第三项研究（样本数分别为 360 和 350）证明，即使撰写者被要求避免听起来像 LLM，上述效应仍然存在。第四项研究（样本数为 219）检验了同情心作为“人类感”的机制，结论是 LLM 可在无同情心的情况下表现出人类感，亦可在无人类感的情况下展现同情心。最后，计算语言分析（第五项研究）表明，LLM 通过内在地表示“人类感”来模拟随机同情，从而变得更像人类。
引用
@article{arxiv.2410.01675,
title = {Linguistic traces of stochastic empathy in language models},
author = {Bennett Kleinberg and Jari Zegers and Jonas Festor and Stefana Vida and Julian Präsent and Riccardo Loconte and Sanne Peereboom},
journal= {arXiv preprint arXiv:2410.01675},
year = {2026}
}
备注
preprint (updated)