EVINCE：基于条件统计与信息论优化多 LLM 对话
人工智能
2025-01-31 v4
摘要
EVINCE（Entropy and Variation IN Conditional Exchanges）是一个用于优化多 LLM 对话的新型框架，基于条件统计与信息论。它解决了多智能体辩论（MAS）框架中存在的局限性——这些框架中多个 LLM “交谈”时缺乏行为调制或相互信息质量评估。通过双熵优化来平衡视角多样性和先验知识， 提供了量化工具，用于动态调节 LLM 的语言行为。当双方的互信息较低且交叉熵和 Wasserstein 距离较高时，EVINCE 会促进充满争议的对话，以暴露多样化的视角并揭示不一致之处。相反，当交叉熵下降且互信息趋于稳定时，它会将讨论过渡到调和阶段，鼓励妥协并认可有效的观点。通过信息论指标和优化互信息，EVINCE 作为一种结构化且高效的多 LLM 协作框架而浮现。
引用
@article{arxiv.2408.14575,
title = {EVINCE: Optimizing Multi-LLM Dialogues Using Conditional Statistics and Information Theory},
author = {Edward Y. Chang},
journal= {arXiv preprint arXiv:2408.14575},
year = {2025}
}
备注
24 pages, 9 figures, 10 tables. arXiv admin note: text overlap with arXiv:2405.15808