中文

面向可信报告生成的深度研究代理:渐进式置信度估计与校准

人工智能 2026-04-08 v1 计算与语言

摘要

随着基于智能体的系统不断演化,深度研究代理能够自动跨越多个领域生成研究报告。尽管这些代理有望简化信息综合与知识探索,但现有评估框架——通常基于主观维度——无法捕捉报告质量的关键方面:可信度。在缺乏真实答案的开放式研究情境中,当前评估方法无法有效衡量生成内容的认知置信度,导致校准困难,使用户容易受到误导或幻觉信息的影响。为此,我们提出一种新型深度研究代理,将渐进式置信度估计与校准集成到报告生成流程中。该系统利用 deliberative 搜索模型,具备深层检索和多跳推理功能,以可验证证据为依托,为每个论点分配置信度分数。结合精心设计的工作流程,该方法可产生具有透明度的可信报告。实验结果和案例研究表明,我们的方法显著提升了可解释性,显著增加了用户信任。

关键词

引用

@article{arxiv.2604.05952,
  title  = {Towards Trustworthy Report Generation: A Deep Research Agent with Progressive Confidence Estimation and Calibration},
  author = {Yi Yuan and Xuhong Wang and Shanzhe Lei},
  journal= {arXiv preprint arXiv:2604.05952},
  year   = {2026}
}

备注

20 pages, 3 tables, 2 figures