打击谣言的未来？检索、判别与生成

人工智能生成内容（AIGC）技术的发展促进了带有错误信息的谣言的产生，影响了社会、经济和政治生态系统，挑战了民主。当前的谣言检测工作仅通过标记潜在的错误信息（分类任务）来应对，未能充分解决问题，而且让权威机构对社交媒体上的每条信息进行辟谣是不现实的。我们提出的综合辟谣过程不仅检测谣言，还提供解释性生成内容以驳斥信息的真实性。我们设计的专家-公民集体智慧（ECCW）模块确保了对信息可信度的高精度评估，检索模块负责根据信息关键词从实时更新的辟谣数据库中检索相关知识。通过使用提示工程技术，我们将结果和知识输入到大型语言模型（LLM）中，实现了令人满意的判别和解释效果，同时无需微调，节省了计算成本，并有助于辟谣工作。