Truth Forest：通过无需微调的干预实现大语言模型的多尺度真实性
计算与语言
2024-01-19 v2 人工智能
摘要
尽管大语言模型（LLM）在各种任务中取得了巨大成功，但它们仍然存在生成幻觉的问题。我们引入了Truth Forest，一种通过使用多维正交探针揭示隐藏的真实性表示来增强LLM真实性的方法。具体来说，它通过将正交约束纳入探针，为建模真实性创建了多个正交基。此外，我们引入了Random Peek，一种系统性的技术，考虑了序列内更广泛的位置范围，缩小了LLM中辨别和生成真实性特征之间的差距。通过采用这种方法，我们将Llama-2-7B在TruthfulQA上的真实性从40.8%提高到74.5%。同样，在微调模型上也观察到了显著改进。我们使用探针对真实性特征进行了彻底分析。我们的可视化结果表明，正交探针捕获了互补的真实性相关特征，形成了定义明确的聚类，揭示了数据集的内在结构。
引用
@article{arxiv.2312.17484,
title = {Truth Forest: Toward Multi-Scale Truthfulness in Large Language Models through Intervention without Tuning},
author = {Zhongzhi Chen and Xingwu Sun and Xianfeng Jiao and Fengzong Lian and Zhanhui Kang and Di Wang and Cheng-Zhong Xu},
journal= {arXiv preprint arXiv:2312.17484},
year = {2024}
}
备注
Accepted as AAAI 2024